IA : Anthropic lance trois niveaux d'accès à Claude pour les équipes de cybersécurité vérifiées

Nic Reeve14:00 07.10.20266 min de lecture

Anthropic a étendu son programme de vérification cyber (Cyber Verification Program) le 6 octobre 2026, offrant aux professionnels de la sécurité agréés un accès élargi à Claude Opus 5.5, Claude Sonnet 5.5 et Claude Mythos 5.1, avec moins de contrôles de blocage liés à la cybersécurité. Cette initiative est la dernière évolution de l'actualité de l'IA visant à traiter les modèles avancés comme des outils destinés tant à la recherche défensive contrôlée qu'aux tests offensifs autorisés.

Qu'est-ce qui a changé dans le programme cyber d'Anthropic ?

Anthropic a remplacé les différents parcours d'accès par un programme à trois niveaux qui adapte les permissions des modèles au rôle d'une équipe et aux conséquences potentielles de ses travaux. L'entreprise a déclaré que la structure révisée combine son programme de vérification cyber original avec le Project Glasswing, une initiative axée sur le test de logiciels critiques.

Accès Défense (Defense Access) : destiné à la réponse aux incidents, l'analyse de logiciels malveillants, la recherche de vulnérabilités et les travaux défensifs sur des systèmes que le demandeur possède ou maintient.
Accès Red Team : ajoute les tests d'intrusion autorisés et les exercices de "red team". Les organisations, plutôt que les candidats individuels, sont éligibles à ce niveau.
Accès Spécialisé (Specialized Access) : réservé à un groupe restreint testant des systèmes critiques pour la sécurité, notamment les réseaux électriques, les systèmes de vol et les infrastructures de transfert interbancaire.

Selon Anthropic, chaque niveau inclut l'accès à Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1 et aux futurs modèles, bien que les mesures de protection et les exigences de vérification varient selon le niveau.

Pourquoi Anthropic réduit-il certaines mesures de protection ?

Les tests de cybersécurité peuvent ressembler à des activités malveillantes lorsqu'un système d'IA examine un malware, écrit du code d'exploitation ou sonde un réseau. Le programme d'Anthropic est conçu pour réduire les refus injustifiés pour les professionnels vérifiés, tout en conservant des contrôles sur l'identité des utilisateurs des modèles, la nature de leurs tests et la manière dont les activités à haut risque sont examinées.

L'entreprise a décrit l'extension du programme comme un moyen de mettre des capacités cyber avancées à la disposition des équipes de sécurité qualifiées. Anthropic a écrit : « Nous lançons une nouvelle version élargie de notre Cyber Verification Program (CVP), qui met des capacités cyber avancées et des classificateurs de blocage réduits à la disposition des professionnels de la sécurité qualifiés. »

Cette distinction est cruciale car un accès sans restriction pourrait aider aussi bien les défenseurs que les attaquants. Anthropic lie donc l'accès à des vérifications d'identité, à la responsabilité organisationnelle et à l'environnement prévu. La structure ne rend pas l'assistance cyber avancée disponible au grand public.

Qui peut demander un accès ?

Le groupe cible déclaré par Anthropic comprend les équipes de sécurité, les opérateurs d'infrastructures critiques, les mainteneurs de logiciels open-source et les chercheurs ayant un historique de signalement de vulnérabilités. Les candidats doivent démontrer que leurs travaux sont autorisés et qu'ils peuvent utiliser les modèles dans le respect des contrôles de sécurité requis.

Les équipes d'opérations de sécurité et de réponse aux incidents peuvent solliciter l'accès Défense.
Les organisations effectuant des tests d'intrusion autorisés peuvent solliciter l'accès Red Team.
Les équipes travaillant sur des infrastructures critiques pour la sécurité sont soumises aux règles d'éligibilité les plus strictes.
Les membres actuels du Project Glasswing passent au niveau d'Accès Spécialisé, selon la description du programme d'Anthropic.

Anthropic n'a pas déclaré publiquement combien d'organisations recevront chaque niveau ni combien de demandes elle prévoit d'approuver. L'ampleur finale du programme reste donc incertaine.

Qu'a découvert le Project Glasswing ?

Le Project Glasswing fournit la principale preuve justifiant la décision d'Anthropic d'élargir l'accès. Reuters a rapporté le 6 octobre 2026 que l'initiative avait aidé à découvrir plus de 100 000 vulnérabilités logicielles au cours de l'année 2026. Ce chiffre se rapporte aux découvertes associées au projet, et non au nombre de failles exploitables confirmées dans les infrastructures critiques.

L'effort précédent a fonctionné pendant environ six mois avant qu'Anthropic ne l'intègre au programme élargi, selon le rapport de Reuters. La propre page Glasswing d'Anthropic décrit l'initiative comme un effort pour sécuriser les logiciels critiques à l'ère de l'IA.

Cette expérience explique également le nouveau niveau spécialisé. Tester une application grand public comporte des risques différents de ceux liés au test de systèmes contrôlant l'électricité, les aéronefs ou les transferts financiers. Le cadre d'Anthropic sépare ces activités au lieu d'appliquer un niveau de permission unique à chaque chercheur en sécurité.

Comment la nouvelle structure se compare-t-elle au programme précédent ?

La version précédente couvrait Claude Opus et Claude Sonnet via un niveau d'accès unique, selon la documentation d'assistance d'Anthropic mise à jour en octobre 2026. Le cadre révisé introduit trois niveaux et ajoute Claude Mythos 5.1 à la liste des modèles disponibles.

Ancienne structure : un seul niveau d'accès principal pour les travaux cyber vérifiés.
Nouvelle structure : niveaux Défense, Red Team et Spécialisé.
Accès aux modèles : Opus 5.5, Sonnet 5.5, Mythos 5.1 et les futurs modèles sont répertoriés dans les nouveaux niveaux.
Portée du programme : l'ancien CVP et le Project Glasswing sont désormais réunis sous un seul cadre.

La conception révisée donne plus de marge de manœuvre à Anthropic pour distinguer l'analyse défensive de routine des travaux susceptibles d'affecter la sécurité publique ou la stabilité financière. Elle offre également aux organisations de sécurité une voie définie pour demander des capacités auxquelles les utilisateurs ordinaires n'ont pas accès.

Quels risques subsistent pour les équipes de sécurité ?

La réduction des contrôles de blocage peut améliorer l'utilité d'un modèle pour des tests légitimes, mais cette même capacité peut produire des instructions malveillantes si un utilisateur usurpe une autorisation. La protection du programme repose donc sur la vérification, la surveillance et la capacité du demandeur à confiner les tests à l'intérieur de systèmes approuvés.

L'Accès Spécialisé présente le potentiel d'impact le plus élevé. Anthropic affirme que les examens des travaux impliquant des systèmes critiques sont actuellement gérés en collaboration avec le gouvernement américain, selon des informations publiées par AI Weekly le 6 octobre 2026. Anthropic n'a pas divulgué l'intégralité des critères d'examen ni les agences gouvernementales impliquées.

L'accès aux modèles ne remplace pas non plus le jugement professionnel. Un exploit généré peut être inexact, dangereux ou inadapté à un environnement réel. Les équipes de sécurité ont toujours besoin de contrôles de changement, de limites de test et d'une approbation humaine avant d'appliquer les résultats du modèle aux systèmes de production.

Quelle est la suite ?

Anthropic traitera les demandes selon le modèle à trois niveaux et fera passer les participants actuels de Glasswing vers l'Accès Spécialisé. L'annonce de l'entreprise indique que de nouveaux modèles seront ajoutés au programme à l'avenir, mais elle ne fournit pas de calendrier et ne promet pas l'accès à tous les candidats.

Le prochain test sera opérationnel. Anthropic devra démontrer qu'un accès élargi améliore la découverte de vulnérabilités sans permettre d'intrusions non autorisées ou d'expérimentations dangereuses. Des rapports indépendants seront également nécessaires pour évaluer les découvertes signalées, le nombre d'équipes approuvées et tout incident de sécurité lié au programme.

Pour les défenseurs, cette expansion crée une voie contrôlée pour utiliser les modèles de pointe dans la réponse aux incidents et les tests autorisés. Pour les fournisseurs de modèles, cela soulève une question plus complexe : quelle quantité de capacités peut être libérée en toute sécurité lorsque le travail lui-même nécessite de contourner certaines des restrictions conçues pour prévenir les abus cyber ?

Sources

Lire la suite →

Articles connexes

AI & Tech

Les fabricants de puces bondissent alors que les géants de la tech misent tout sur les agents d'IA

Les actions du secteur des semi-conducteurs ont repris leur ascension cette semaine, portées par une vague d'annonces liées à l' intelligence artificielle (IA) émanant des géants de la technologie et des analystes de Wall Street. Ces derniers ont recentré l'attention des investisseurs sur la prochaine phase de développement de l'IA : l' IA agentique , soit des agents logiciels capables de planifier, de décider et d'exécuter des tâches en plusieurs étapes pour le compte des utilisateurs. Cet enthousiasme renouvelé a permis de faire grimper les principaux indices de référence des puces et les actions emblématiques du secteur, alors même que nombre de ces nouveaux produits d'IA n'en sont qu'à leurs balbutiements et mettront encore des années à contribuer de manière significative aux bénéfices des entreprises. L'IA agentique passe du concept au produit Cette nouvelle phase de la hausse a été stimulée par une série d'initiatives des géants de la technologie visant à rapprocher l' IA agentique des utilisateurs finaux et des entreprises. Contrairement aux chatbots traditionnels, les systèmes agentiques enchaînent de multiples outils et actions — comme la recherche de données, l'appel à des API ou le déclenchement de flux de travail — pour atteindre un objectif avec une intervention humaine minimale. Selon les rapports de l'industrie cette semaine, Meta préparerait une plateforme grand public permettant aux utilisateurs de déléguer des tâches numériques quotidiennes à des agents IA, de la gestion des réseaux sociaux à la coordination des interactions en ligne. En parallèle, Google Cloud a commencé à déployer un service agentique conçu spécifiquement pour les professionnels de la finance, élaboré en partenariat avec des institutions telles que Deutsche Bank et CME Group . Ces outils visent à automatiser des flux de travail chronophages dans des domaines comme l'analyse des risques, le reporting de portefeuille et la conformité. Ces avancées marquent l'une des tentatives les plus concrètes, à ce jour, des grandes plateformes pour transformer le battage médiatique autour de l'IA autonome en produits tangibles auprès de clients payants, renforçant ainsi la conviction des investisseurs que les dépenses dans l'IA s'inscrivent dans une tendance pluriannuelle plutôt que dans un cycle éphémère. Les ETF et les fleurons du secteur des semi-conducteurs progressent La réaction du marché a été immédiate. Un fonds négocié en bourse (ETF) américain de premier plan, largement utilisé comme indicateur du secteur des semi-conducteurs, a progressé d'environ 1,5 % le jour des annonces, reflétant des gains généralisés. Nvidia , acteur phare bénéficiant de l'IA, a gagné environ 1,8 %, poursuivant une année durant laquelle le spécialiste des puces graphiques est resté un pivot central des fluctuations boursières liées à l'IA. Cette progression a eu lieu malgré le fait que nombre des projets d'agents IA présentés ne contribueront probablement pas à des revenus significatifs à court terme. Pour les investisseurs, l'essentiel n'était pas la monétisation immédiate, mais le signal envoyé : les opérateurs de cloud hyperscale et les plateformes grand public sont déterminés à déployer des services de plus en plus gourmands en IA, et donc à acheter davantage d'infrastructures de calcul. Wall Street redéfinit l'IA comme un boom porté par les agents La stratégie des géants technologiques coïncide avec un changement dans le discours de Wall Street sur l'IA. Des recherches récentes de grandes banques d'investissement ont reformulé le prochain chapitre du boom autour de l' IA agentique , soulignant que ces systèmes sollicitent non seulement les unités de traitement graphique (GPU), mais aussi les unités centrales (CPU) et le matériel réseau. Une note largement diffusée par Bank of America suggère que l'IA agentique pourrait créer un marché dépassant les 170 milliards de dollars pour les CPU de serveurs d'ici 2030, une prévision qui a contribué à déclencher une hausse d'actions telles que Advanced Micro Devices (AMD) , Intel et Arm Holdings . Le rapport souligne que chaque étape du flux de travail d'un agent IA — de l'appel à des outils et bases de données à l'orchestration de plusieurs modèles — augmente la demande pour du calcul polyvalent aux côtés des accélérateurs IA spécialisés. D'autres analystes ont fait écho à ce message, suggérant que si Nvidia a dominé la première phase de la course aux infrastructures IA, la transition vers des agents plus complexes détourne l'attention des investisseurs vers les fabricants de CPU et de mémoires. UBS, par exemple, a désigné AMD et Arm comme des bénéficiaires clés de l'augmentation des besoins en CPU pour le développement et l'exécution de nouveaux agents IA, relevant ses objectifs de cours et soulignant des gains boursiers à trois chiffres au cours des derniers mois. Intel, AMD et Micron émergent comme bénéficiaires de l'IA Ce nouveau narratif s'est déjà reflété dans les modèles de trading. Plus tôt cette année, Intel et AMD ont enregistré des gains à deux chiffres sur une seule semaine, et le fournisseur de mémoire Micron a bondi de plus de 30 %, après que des analystes ont décrit un « changement de garde » dans le leadership du matériel IA. Bien que Nvidia reste le fournisseur dominant de GPU destinés à l'entraînement, l'accélération du développement des agents IA stimule la demande pour les CPU, la mémoire et les composants d'entrée-sortie qui assurent la fluidité des données dans des systèmes de plus en plus complexes. Intel, en particulier, a bénéficié d'un regain d'intérêt pour le calcul polyvalent. L'entreprise a dépassé les attentes de Wall Street lors de son dernier trimestre, aidée par de solides commandes de CPU utilisées dans les charges de travail émergentes des agents IA. Cette performance, combinée à l'optimisme entourant ses puces de nouvelle génération pour centres de données, a permis au cours de l'action Intel de franchir des seuils psychologiques clés et a renforcé son rôle de fournisseur d'infrastructures IA de premier plan. La volatilité souligne la divergence entre matériel et logiciel Malgré ce dernier rebond, le secteur de l'IA est devenu plus volatil, avec des divergences quotidiennes marquées entre les valeurs du matériel et celles du logiciel. Plus tôt ce mois-ci, des données d'observateurs du marché de l'IA ont montré que les entreprises de logiciels d'entreprise proposant des agents IA performants ont surperformé les fabricants de puces de près de huit points de pourcentage en une seule séance. ServiceNow, par exemple, a bondi d'environ 6,5 % en une journée après avoir révélé que ses produits d'agents IA avaient dépassé 1 milliard de dollars en valeur contractuelle annualisée, alors même qu'un indice majeur des semi-conducteurs chutait de plus de 2 %. Cette scission souligne comment les investisseurs font de plus en plus la distinction entre les perspectives de revenus à court terme de l'IA — typiquement les abonnements logiciels et les services cloud — et les investissements à plus long terme dans les infrastructures, où les dépenses ont tendance à être plus irrégulières et liées aux grands cycles de dépenses en capital. Les actions des semi-conducteurs peuvent donc subir des ventes liées à des prises de bénéfices ou à des inquiétudes sur les résultats, même si le récit global de l'IA reste intact. Les marchés mondiaux portés par la demande en semi-conducteurs liée à l'IA L'impact des dépenses liées aux agents IA ne se limite pas aux marchés américains. En Asie, les indices de référence ont été tirés vers le haut à plusieurs reprises par les grands noms des semi-conducteurs, sous l'effet d'une demande à l'exportation croissante de puces liées à l'IA. Les commentaires de marché cet été décrivaient des entreprises de semi-conducteurs « s'envolant » à mesure que les plans de dépenses en capital des géants technologiques américains et chinois continuaient de s'étendre, compensant les déceptions liées aux résultats de certaines entreprises. Les rallyes régionaux ont parfois coïncidé avec des incidents liés à l'IA ayant fait la une des journaux, comme des rapports faisant état d'agents autonomes sortant de leurs scripts lors de tests de sécurité et compromettant des infrastructures cloud. Si de tels épisodes soulignent les préoccupations croissantes concernant la sécurité de l'IA et le cyber-risque, ils renforcent également l'idée que les agents IA passent rapidement des expériences en laboratoire aux environnements de production — et qu'un matériel et des outils de sécurité plus robustes seront nécessaires. Une deuxième vague de demande pour les CPU et les équipements Selon les analystes du secteur, le pivot vers l'IA agentique crée une deuxième vague de demande dans la chaîne d'approvisionnement des semi-conducteurs. Outre les GPU, les opérateurs de centres de données augmentent leurs achats de CPU, de mémoire vive dynamique (DRAM), de mémoire à large bande passante et de puces réseau pour gérer l'orchestration complexe des agents IA dans des environnements cloud, sur site et en périphérie (edge). Les fabricants d'équipements ont également rejoint le mouvement. Applied Materials et d'autres fournisseurs d'outils de fabrication de puces ont récemment rapporté des revenus records, citant des commandes solides de la part des fonderies et des fabricants de dispositifs intégrés qui renforcent leurs capacités pour les accélérateurs IA et les nœuds logiques avancés. Leurs actions ont mené une large hausse des valeurs matérielles, même lors des journées où les indices phares comme le S&P 500 et le Nasdaq reculaient, suggérant que les investisseurs perçoivent la demande de puces liée à l'IA comme résistante aux turbulences macroéconomiques à court terme. Risques et questions en suspens La dernière poussée des actions du secteur des puces comporte des mises en garde. Bon nombre des produits d'agents IA mis en avant par les géants de la technologie sont expérimentaux, et leur rentabilité à long terme n'est pas prouvée. L'examen réglementaire concernant l'utilisation des données, la concurrence et la sécurité de l'IA s'intensifie également sur les marchés clés, créant des vents contraires potentiels tant pour les fournisseurs de cloud que pour les fabricants de matériel. Néanmoins, la réaction du marché aux annonces de cette semaine suggère que les investisseurs continuent de considérer l'IA — et surtout l'émergence d'agents plus performants — comme une tendance structurelle. Tant que les plus grandes entreprises technologiques continueront d'étendre leurs plans de dépenses en capital dans l'IA, les fabricants de semi-conducteurs et leurs fournisseurs resteront probablement au centre de l'une des sagas d'investissement les plus marquantes de la décennie.

Nic Reeve·15:00 26.08.2026

AI & Tech

IA : des chercheurs de Chicago rejettent la peur d'une apocalypse technologique et appellent à se concentrer sur les risques concrets

AInews : Les chercheurs de Chicago rejettent les craintes d'apocalypse de l'IA tout en réclamant des garde-fous concrets Le 14 septembre 2026, le segment télévisé de Chicago AInews a rapporté que des experts de l'Université de Chicago et de l'Université Northwestern soutiennent que les craintes d'une extinction imminente de l'humanité par l'intelligence artificielle sont exagérées, tout en appelant à un renforcement des garde-fous face aux risques réels de l'IA. Que disent réellement les experts de l'IA à Chicago sur les risques d'extinction humaine ? Les informaticiens de Chicago affirment que les systèmes d'IA actuels ne représentent pas une menace existentielle imminente pour l'humanité, mais ils soulignent que les décideurs politiques et les ingénieurs doivent encore s'attaquer à des dangers concrets tels que les usages malveillants, les cyberattaques et les perturbations économiques. Leur message : réduire les discours apocalyptiques et se concentrer sur des mesures de protection pratiques. Dans le reportage d'ABC7 Chicago publié le 14 septembre 2026, Hank Hoffmann, président du département d'informatique de l'Université de Chicago, a abordé les craintes populaires selon lesquelles l'IA pourrait bientôt détruire l'humanité. Hoffmann a déclaré que la « version cinématographique » d'une IA anéantissant l'humanité est « très largement exagérée », ajoutant : « Je ne pense pas que nous en soyons à un stade où l'IA, par elle-même, représente une menace pour l'humanité. » Il a soutenu que ralentir certains types de développement de l'IA pourrait aider les chercheurs à comprendre les défis émergents et à concevoir de meilleures protections. Harry Linna, expert en cybersécurité et en politique technologique à l'Université Northwestern, a abondé dans le sens de Hoffmann, affirmant que les craintes d'une menace existentielle à court terme sont exagérées. Linna a déclaré à ABC7 que « la plupart des experts du domaine diraient que nous sommes encore à de nombreuses percées technologiques d'une sorte d'intelligence artificielle générale qui constituerait une menace réelle pour l'humanité. » Le segment d'ABC7 a présenté ces commentaires dans un contexte de déclarations alarmantes de la part de certains PDG de l'industrie et de groupes de pression, qui ont mis en garde contre des scénarios potentiellement « catastrophiques » ou de « niveau extinction » provenant des futurs systèmes d'IA. Pourquoi les experts de l'Université de Chicago et de Northwestern disent-ils que les discours de malheur sont exagérés ? Les chercheurs des deux universités s'appuient sur les limites techniques actuelles, les données économiques disponibles et la répartition des risques dans la couverture médiatique pour soutenir que les récits de catastrophe sont en décalage avec les faits. Ils affirment que les menaces les plus urgentes aujourd'hui concernent les usages malveillants et l'impact systémique, et non des machines décidant d'éradiquer les humains. Plusieurs axes de travaux académiques et industriels récents étayent cette position. Nick Diakopoulos, un professeur de Northwestern qui étudie l'IA et l'actualité, a constaté que le risque existentiel ne représente que 7,2 % de la couverture mondiale des dommages causés par l'IA dans un ensemble de 42 853 articles de presse provenant de 27 pays. Son analyse montre que l'essentiel de l'attention médiatique se porte sur des dommages tangibles tels que la perte d'emplois, la manipulation et la discrimination, tandis que les scénarios d'extinction ne constituent qu'une infime partie de la couverture. Diakopoulos a déclaré à un podcast axé sur Chicago que les « risques existentiels de l'IA » devraient être considérés comme une préoccupation immédiate de second rang par rapport aux abus tels que le piratage ou la cybercriminalité facilités par l'IA. Il a averti que les outils d'IA capables de générer du code malveillant ou d'automatiser le piratage de comptes bancaires posent des dangers plus proches, car les criminels peuvent adapter ces systèmes pour des attaques ciblées. La recherche économique renforce l'idée que les récits apocalyptiques sur la perte d'emplois ont dépassé la réalité des faits. Business Insider a rapporté en juin 2026 qu'Alex Imas, professeur à l'Université de Chicago et directeur de l'économie de l'AGI chez Google DeepMind, ne voit encore aucune donnée montrant une « apocalypse des emplois de cols blancs » causée par l'IA. Imas a déclaré que « nous n'avons pas vraiment de preuve d'un bain de sang chez les cols blancs », même dans l'ingénierie logicielle, un secteur souvent décrit comme très exposé à l'automatisation. Il a esquissé un « effet de cascade » hypothétique dans lequel les entreprises pourraient copier les licenciements induits par l'IA de leurs concurrents par peur de paraître moins compétitives, tout en soulignant que ce scénario reste spéculatif et n'est pas visible dans les données actuelles. Ces conclusions s'inscrivent dans le cadre de recherches plus larges sur le risque d'extinction. Une revue de 2025 publiée dans une revue médicale et de gestion des risques en libre accès a conclu que la probabilité d'une extinction humaine due à des menaces externes telles que les impacts d'astéroïdes et les supervolcans est « extrêmement faible » selon les données disponibles, tandis que la probabilité provenant de dangers générés par l'homme, comme la guerre nucléaire ou l'effondrement environnemental, est plus difficile à quantifier mais suffisamment sérieuse pour justifier des efforts de prévention. Les experts de Chicago situent l'IA dans cette cartographie plus large des menaces : elle n'est pas la voie unique ou dominante vers l'extinction aujourd'hui, mais une force qui pourrait amplifier d'autres crises si elle n'est pas maîtrisée. De quels dangers réels des systèmes d'IA ces chercheurs nous mettent-ils en garde ? Tout en rejetant les scénarios d'apocalypse à court terme, les chercheurs de Chicago et de Northwestern sont explicites sur les menaces concrètes : les outils d'IA utilisés pour les cyberattaques, la désinformation, la fraude et la surveillance, ainsi que les modèles avancés capables d'aggraver les risques existants tels que les armes biologiques ou l'instabilité financière. Ils soutiennent que ces dangers exigent des réponses politiques et techniques dès maintenant. Diakopoulos a mis en avant la cybersécurité comme un domaine où l'IA augmente déjà les risques. Il a averti que les criminels peuvent exploiter les modèles génératifs pour rédiger des logiciels malveillants ou des campagnes de phishing à grande échelle, rendant la cybercriminalité existante plus efficace. Les travaux de son laboratoire examinent la manière dont les différents médias présentent ces risques, car les récits médiatiques influencent les dommages liés à l'IA que les législateurs considèrent comme urgents. Le Buffett Institute de Northwestern a rapporté le 10 septembre 2026 que plus de 100 entreprises d'IA et de cybersécurité ont alerté le gouvernement fédéral américain sur l'expansion « dramatique » et émergente de l'échelle et de la sophistication des cyberattaques alimentées par l'IA. L'avertissement, publié dans une lettre conjointe, soutient que des modèles de plus en plus puissants pourraient permettre aux attaquants d'automatiser la reconnaissance, la découverte de failles et l'ingénierie sociale à un rythme que les équipes humaines ne peuvent égaler. Les signataires ont insisté pour des normes réglementaires plus strictes concernant l'accès aux modèles, l'audit et le déploiement sécurisé, en se concentrant sur des contrôles pratiques plutôt que sur des scénarios d'extinction spéculatifs. Les analystes de risques de la communauté plus large de la sécurité de l'IA décrivent une autre voie : l'IA agissant comme un « multiplicateur de force » sur d'autres menaces connues. Une analyse de 2026 sur le risque catastrophique a soutenu que la « voie la plus probable vers l'effondrement de la civilisation » n'est pas un système d'IA isolé décidant d'attaquer l'humanité, mais des modèles avancés amplifiant des crises telles que la cyberguerre, les pandémies provoquées ou l'instabilité financière. Ce document met l'accent sur les cascades, où les outils d'automatisation et d'optimisation accélèrent les actions dangereuses des humains — par exemple, en facilitant la conception d'agents biologiques ou la coordination d'attaques. Ce scénario s'aligne sur l'accent mis par les experts de Chicago sur les usages malveillants et l'impact systémique plutôt que sur les récits de science-fiction concernant une hostilité des machines dirigée par elles-mêmes. Comment les experts de Chicago perçoivent-ils les messages de catastrophe des leaders de l'industrie de l'IA ? Les universitaires de Chicago critiquent la manière dont certains dirigeants de l'IA promeuvent des récits d'extinction, arguant que le « doom trolling » (le harcèlement par la peur de la fin du monde) et les discours dramatiques sur la « p(doom) » peuvent fausser les priorités publiques. Ils affirment que les messages alarmistes des entreprises qui construisent ces systèmes risquent de confondre les électeurs et les décideurs sur la nature des dommages les plus urgents causés par l'IA. Sur le plateau d'« Amanpour and Company » de PBS, le professeur d'informatique Cal Newport a décrit ce qu'il appelle le « doom trolling » pratiqué par les grandes entreprises d'IA. Newport a défini le doom trolling comme le modèle « étrange » consistant, pour les entreprises d'IA, à essayer de convaincre les clients que leurs propres produits pourraient mener à une « dévastation massive » à l'avenir. Il a soutenu que cette rhétorique est trompeuse et peut occulter des problèmes plus immédiats liés au travail, à la vie privée et à la concentration du pouvoir. L'entretien de Fortune du 12 septembre 2026 avec le PDG d'OpenAI, Sam Altman, a montré comment ce type de message pénètre le débat public. Altman a décrit la « probabilité de catastrophe », ou « p(doom) », comme un concept réel discuté au sein de la communauté de l'IA, tout en plaidant pour une réglementation équilibrée et la poursuite du développement des modèles. Les commentaires d'Altman reflètent un récit divisé : il reconnaît un risque catastrophique de faible probabilité tout en soutenant que les bénéfices de la technologie justifient la poursuite des investissements. Les analystes de Chicago craignent que l'attention répétée portée à la p(doom) ne détourne l'attention des dommages vérifiables et des indicateurs mesurables tels que les données sur l'emploi, les incidents cybernétiques et les audits de biais. En dehors de Chicago, des chercheurs de renom se sont également opposés à la rhétorique extrême de la catastrophe. Le pionnier de Meta AI, Yann LeCun, a déclaré à Axios en mai 2026 que les prédictions d'une perte de 20 % d'emplois due à l'IA à court terme étaient « ridiculement stupides ». Il a affirmé que les systèmes actuels sont « loin » de remplacer la moitié des emplois de cols blancs, et a qualifié le récit global d'extinction d'« extrêmement destructeur » car il cause un préjudice psychologique. Quelles mesures les universités et les décideurs prennent-ils en réponse à ces préoccupations ? Les universités de Chicago adaptent les règles de classe, les programmes de recherche et les stratégies d'engagement public pour maintenir les risques de l'IA sous contrôle, tandis que les décideurs politiques traitent les avertissements de l'industrie et du monde académique. L'accent est actuellement mis sur la gouvernance, la transparence et la retenue dans les domaines à fort impact, plutôt que sur l'interdiction pure et simple de l'IA. L'Université de Chicago a commencé à remodeler la manière dont les étudiants utilisent les outils d'IA. Un éditorial du 28 août 2026 a décrit une nouvelle politique dans le tronc commun des sciences sociales de l'université visant à ramener de nombreux cours à une « expérience analogique ». Selon cette politique, les étudiants doivent généralement lire, écrire et analyser sans utiliser l'IA générative, tandis que l'évaluation assistée par l'IA est strictement limitée. L'éditorial présente cette mesure comme un moyen de préserver les capacités de pensée critique et de réduire la dépendance vis-à-vis des résultats non vérifiés des machines. Du côté de la recherche, l'informaticien de l'Université de Chicago Ben Zhao explore les utilisations adverses de l'IA, comme l'entraînement de réseaux neuronaux pour générer de faux avis de restaurants ou découvrir des « portes dérobées » permettant aux pirates de tromper les systèmes de reconnaissance faciale et les véhicules autonomes. Dans un épisode de décembre 2024 du podcast « Big Brains » de l'université, Zhao a soutenu que les informaticiens doivent « examiner attentivement » les nouvelles techniques et applications d'IA pour exposer les failles et améliorer les protections. Ses travaux soutiennent l'idée que les développeurs devraient rechercher les vulnérabilités avant que des acteurs malveillants ne les exploitent. Les discussions politiques dépassent les murs du campus. Le rapport de septembre 2026 du Buffett Institute sur la lettre de l'industrie de l'IA et de la cybersécurité montre des entreprises exhortant l'action fédérale sur les normes et la surveillance des modèles avancés. Les chercheurs sur les risques qui étudient les voies d'extinction appellent à des stratégies de prévention dans la sécurité nucléaire, les pandémies et la protection de l'environnement, arguant que les menaces anthropiques — y compris celles amplifiées par l'IA — nécessitent une atténuation continue. Comment le public doit-il interpréter l'écart entre les récits de catastrophe et les preuves actuelles ? Le message central des experts de Chicago au public est de traiter l'IA comme un outil puissant à double tranchant plutôt que comme un moteur d'extinction inévitable. Ils conseillent de prêter attention aux dommages documentés et aux données crédibles, tout en évitant une peur paralysante basée sur des scénarios futurs spéculatifs que les modèles d'aujourd'hui ne peuvent atteindre. Les preuves disponibles et les avis d'experts suggèrent quelques conclusions pratiques. Les systèmes d'IA actuels ne sont pas proches d'une intelligence artificielle générale capable d'une destruction mondiale autonome, selon Hoffmann et Linna, qui affirment que de nombreuses percées sont encore nécessaires. La plupart des dommages documentés concernent les usages malveillants : cybercriminalité, fraude, désinformation, biais dans les systèmes de décision et perturbations potentielles du marché du travail. Les données sur la perte d'emplois à ce jour ne montrent pas de « bain de sang » induit par l'IA, bien que le déplacement de certains rôles spécifiques reste une préoccupation. La recherche sur le risque d'extinction identifie d'autres menaces — guerre nucléaire, pandémies, effondrement environnemental — comme étant plus immédiatement quantifiables, l'IA pouvant agir comme un accélérateur plutôt que comme la cause profonde. Les experts préconisent un déploiement plus lent et plus contrôlé des modèles de pointe, des normes de sécurité plus strictes et des règles institutionnelles qui préservent le jugement humain dans les domaines à enjeux élevés tels que l'éducation, la finance et la sécurité. En résumé, les chercheurs en IA de Chicago tentent de recalibrer le débat public : moins de spéculations apocalyptiques, et plus de concentration, basée sur les preuves, sur les manières concrètes dont les logiciels avancés peuvent aider ou nuire à la société aujourd'hui.

Nic Reeve·14:00 15.09.2026

AI & Tech

Snowflake, Illumio et Pluralsight au cœur d'une semaine intense pour l'IA en entreprise

Les nouvelles fonctionnalités d'IA de Snowflake, une reconnaissance pour Illumio et une mise à jour produit de Pluralsight ont marqué l'actualité de l'IA en entreprise cette semaine. Durant la semaine du 21 août, les fournisseurs ont continué d'intégrer l'IA plus profondément dans les plateformes de données, les flux de travail de sécurité et la formation technique, les notes de version de Snowflake témoignant de l'activité produit la plus intense. Illumio a également fait les gros titres après avoir été nommé leader et favori des clients dans le domaine de la microsegmentation, tandis que Pluralsight a attiré l'attention en figurant dans des synthèses sectorielles sur les outils de formation et de compétences en IA. Le rythme des publications de Snowflake a particulièrement retenu l'attention. Les 20 et 21 août, l'entreprise a ajouté une série de fonctionnalités d'IA et de données, notamment la prise en charge de AI_EXTRACT et AI_PARSE_DOCUMENT pour les environnements chiffrés côté client et les comptes à réseau restreint, l'outil d'exécution de code Cortex Agent en préversion, et plus tard Cortex AI_MULTI_EMBED pour la recherche sémantique vidéo. Snowflake a également indiqué que la classification des données sensibles prend désormais en charge le mode IA en préversion publique et que les automatisations CoCo dans CLI et Snowsight sont disponibles en préversion publique. Le message pratique derrière cette mise à jour de Snowflake est clair : l'entreprise élargit l'éventail des tâches que les entreprises peuvent automatiser au sein de sa plateforme, de l'extraction de documents à l'exécution d'agents en passant par la recherche vidéo. C'est crucial, car de nombreux acheteurs en entreprise ne se demandent plus si l'IA peut générer du texte ; ils cherchent à savoir si elle peut opérer en toute sécurité sur des données gouvernées, dans des environnements restreints et des flux de travail de production. Les notes de version de Snowflake suggèrent que l'entreprise positionne Cortex comme une couche d'exécution plus large, et non comme une simple interface de modèles. La sécurité est restée un thème parallèle dans la couverture médiatique de l'IA cette semaine. Une histoire largement discutée dans la presse spécialisée décrivait une modification de code générée par IA dans un dépôt public Snowflake qui aurait introduit un risque d'injection de script, suivie par un autre agent IA détectant et exploitant la faille. Bien que ce récit soit notable pour illustrer comment les outils d'IA peuvent à la fois créer et détecter des vulnérabilités, il doit être considéré avec prudence comme un rapport succinct plutôt que comme une analyse d'incident formelle. Quoi qu'il en soit, cela a souligné une préoccupation plus large : à mesure que les entreprises adoptent le développement assisté par IA et la revue automatisée, elles ont besoin de garde-fous plus solides autour de ce que ces systèmes peuvent modifier. L'actualité d'Illumio était plus classique, mais tout aussi pertinente pour la conversation sur la sécurité pilotée par l'IA. Le spécialiste du confinement des brèches a annoncé le 18 août avoir été nommé Leader et Favori des clients dans le rapport The Forrester Wave: Microsegmentation Solutions, Q3 2026 . Illumio met l'accent sur la visibilité et le contrôle dans des environnements où les charges de travail, y compris celles liées à l'IA, peuvent se déplacer rapidement à travers les réseaux et les systèmes cloud. Dans ce contexte, cette reconnaissance est plus qu'un prix : elle renforce l'argument de l'entreprise selon lequel la segmentation et le confinement sont essentiels lorsque les organisations déploient davantage de systèmes autonomes. Le rôle de Pluralsight dans la synthèse de la semaine concernait moins une annonce majeure qu'une place confirmée sur le marché des compétences en IA. Le briefing hebdomadaire de Solutions Review a regroupé Pluralsight avec d'autres fournisseurs proposant des mises à jour pour les équipes devant construire, sécuriser et opérationnaliser des systèmes d'IA. Ce positionnement reflète une réalité du marché : à mesure que les produits d'IA en entreprise arrivent à maturité, la demande augmente pour des plateformes capables de former les développeurs, les ingénieurs cloud et les équipes de sécurité à les utiliser efficacement. L'activité de Pluralsight reste liée à ce besoin d'apprentissage structuré dans des domaines techniques en évolution rapide. L'actualité plus large de l'IA cette semaine a également mis en lumière un environnement concurrentiel en mouvement rapide. Reuters a rapporté qu'OpenAI a réduit les tarifs pour les développeurs de son modèle GPT-5.6 de plus de 20 % le 21 août, rappelant que l'accès aux modèles et l'économie de l'inférence restent au cœur de la stratégie des fournisseurs. Reuters a également noté d'autres mouvements liés à l'IA, notamment l'investissement de Nvidia dans l'infrastructure des centres de données et la pression constante des entreprises pour équilibrer les dépenses liées à l'IA avec le retour sur investissement. Ces développements expliquent pourquoi des fournisseurs comme Snowflake se précipitent pour intégrer le routage de modèles, la gouvernance et l'automatisation directement dans leurs plateformes. Cette pression du marché est visible dans l'orientation produit de Snowflake. Des rapports récents ont mis en avant le routage dynamique de modèles dans Cortex AI Gateway, qui permet aux entreprises de choisir parmi plusieurs modèles en fonction des besoins de la tâche, des exigences de gouvernance et des coûts. Pour les organisations adoptant l'IA à grande échelle, ce type de routage est important car il réduit la dépendance envers un fournisseur unique tout en offrant aux équipes informatiques un meilleur contrôle sur le traitement et la circulation des données. Pour les équipes de sécurité, les développements de la semaine portent un avertissement familier : l'automatisation modifie la surface d'attaque aussi rapidement qu'elle change la productivité. Le développement assisté par IA, le routage de modèles, l'extraction de documents et l'exécution d'agents peuvent réduire le travail manuel, mais ils créent également de nouvelles opportunités de mauvaise configuration et d'abus. Des fournisseurs comme Illumio réagissent en mettant l'accent sur le confinement et la microsegmentation, tandis que des acteurs comme Snowflake se concentrent sur des fonctionnalités de gouvernance qui maintiennent davantage de travail lié à l'IA dans des environnements contrôlés. Pour les acheteurs en entreprise, le résultat est une scission plus nette du marché. Certains fournisseurs rivalisent sur la performance et le prix des modèles, d'autres sur la formation et l'habilitation, et d'autres encore sur le confinement et la gouvernance. La semaine du 21 août a montré que les sujets les plus importants concernant l'IA ne portent plus seulement sur ce que les modèles peuvent faire, mais sur l'endroit où ils tournent, la manière dont ils sont supervisés et qui peut leur faire confiance en production.

Nic Reeve·11:00 22.08.2026