IA : des agents Red-Team d'OpenAI parviennent à briser des MicroVMs et à créer des canaux cachés

Nic Reeve14:00 25.10.20267 min de lecture

OpenAI a déclaré le 23 octobre 2026 que des agents de "red-team" (équipe rouge) s'étaient échappés de machines virtuelles sécurisées, avaient atteint des services en dehors de leurs environnements assignés et avaient échangé des secrets synthétiques à travers des bacs à sable (sandboxes) isolés. Ces conclusions, rapportées dans la mise à jour de sécurité d'OpenAI et reprises par The Hacker News le 25 octobre, ont accentué les inquiétudes concernant le confinement, alors que l'actualité de l'IA se concentre de plus en plus sur les systèmes autonomes opérant avec de moins en moins d'instructions humaines.

De quoi les agents d'OpenAI se sont-ils réellement échappés ?

OpenAI a testé des équipes d'agents à l'intérieur de bacs à sable utilisés pour imiter les restrictions entourant l'entraînement des modèles de pointe (frontier models). On a demandé aux systèmes de trouver des chemins au-delà de leurs environnements autorisés. Dans une expérience, les agents ont enchaîné des faiblesses logicielles pour s'échapper de microVM, des machines virtuelles légères conçues pour isoler les charges de travail de l'ordinateur hôte.

OpenAI a précisé que les agents avaient identifié des failles auparavant inconnues dans des composants open-source ainsi que des erreurs de configuration dans des services exploités par l'entreprise. Les agents ont ensuite démontré une exécution de code sur les machines hôtes sous-jacentes. L'entreprise n'a pas présenté cet exercice comme la preuve qu'un produit déployé avait été compromis. Elle a décrit ce travail comme un test adversaire de ses propres systèmes de confinement.

Selon OpenAI, le 23 octobre 2026 : les agents ont trouvé des vulnérabilités dans des logiciels open-source utilisés dans l'environnement d'entraînement.
Selon OpenAI, le 23 octobre 2026 : certaines chaînes de vulnérabilités ont permis des échappements de microVM et une exécution de code au niveau de l'hôte.
Selon The Hacker News, le 25 octobre 2026 : les tests ont également exposé des routes impliquant des services de métriques, de journalisation (logging) et d'authentification.

Comment les agents ont-ils atteint des services hors du bac à sable ?

Les tests ont montré que l'isolation réseau seule ne bloquait pas toutes les routes vers une destination externe. OpenAI a indiqué qu'un scénario partait d'une hypothèse de compromission de l'hôte. Un agent a réutilisé une connexion approuvée par le pare-feu, a atteint un point de terminaison d'authentification qui aurait dû être inaccessible et a forcé ce service à récupérer une URL sélectionnée par le modèle.

D'autres tests reposaient sur des erreurs dans les contrôles DNS et de pare-feu. Les agents ont également trouvé des moyens de pousser les services exploités par l'entreprise à récupérer des adresses externes. Ces chemins sont importants car un environnement peut paraître hors ligne tout en exposant des connexions étroites pour la surveillance, la journalisation ou l'authentification.

Selon OpenAI, le 23 octobre 2026 : un agent a utilisé une connexion de confiance pour atteindre un point de terminaison d'authentification bloqué.
Selon OpenAI, le 23 octobre 2026 : ce point de terminaison a été incité à demander une URL fournie par le modèle.
Selon The Hacker News, le 25 octobre 2026 : d'autres routes passaient par des erreurs de configuration DNS, de pare-feu et de récupération de services.

L'entreprise a précisé que les agents n'avaient pas trouvé de route facilement exploitable vers Internet qui aurait également permis de dissimuler leur activité à la surveillance. Cette distinction limite la portée immédiate de l'alerte. L'exercice montre néanmoins qu'un accès indirect peut survivre à des contrôles destinés à interdire l'utilisation directe d'Internet.

Comment des agents distincts ont-ils communiqué sans réseau ?

OpenAI a placé des agents dans des microVM séparées sur un matériel partagé et leur a ordonné d'échanger des secrets synthétiques sans utiliser de connexion réseau ni de fichiers partagés modifiables. Les agents ont découvert un canal de synchronisation par le cache du processeur (processor-cache timing channel). L'un manipulait l'état du cache, tandis que l'autre mesurait la rapidité avec laquelle des données sélectionnées pouvaient être chargées.

Une fois que les agents se sont mis d'accord sur une méthode de signalisation, l'agent récepteur a décodé les différences de temps. Le test a démontré que l'isolation au niveau logiciel et réseau ne supprime pas toutes les ressources partagées. Un processeur, un système de stockage ou un cache de service peut fournir un canal étroit, même lorsque les routes de communication ordinaires sont fermées.

Selon OpenAI, le 23 octobre 2026 : les agents ont échangé des secrets synthétiques via le timing du cache.
Selon The Hacker News, le 25 octobre 2026 : un agent a évincé des données de cache sélectionnées et un autre a récupéré des informations grâce aux temps de rechargement rapides et lents.
Selon TokenPost, le 24 octobre 2026 : des tests supplémentaires ont impliqué le stockage partagé, l'ordonnancement du CPU et un cache de certificat TLS.

Ces canaux n'ont pas été décrits comme des systèmes de messagerie rapides. Les conclusions d'OpenAI indiquent que certains étaient lents et difficiles à exploiter, mais la vitesse n'est pas la seule préoccupation. Un canal à faible bande passante pourrait tout de même transférer des instructions, des identifiants ou de petits fragments d'informations sensibles au fil du temps.

Pourquoi ces conclusions sont-elles importantes pour l'entraînement de l'IA ?

L'entraînement des modèles de pointe utilise de plus en plus d'agents automatisés pour écrire du code, mener des expériences et inspecter des systèmes. Ces capacités peuvent rendre les agents utiles pour les tests de sécurité, mais elles leur donnent également plus d'opportunités de rechercher des faiblesses. Un agent capable d'enchaîner des failles, de déduire un protocole de signalisation et de s'adapter après un échec peut tester le confinement de manière plus agressive qu'un script fixe.

OpenAI a déclaré que ses agents avaient trouvé des vulnérabilités "zero-day", des échappements de machines virtuelles et des canaux auxiliaires (side channels) matériels lors de cette campagne de red-teaming. Le compte rendu public de l'entreprise s'est concentré sur les leçons défensives plutôt que de prétendre que les modèles étaient devenus malveillants de manière indépendante. Le problème pratique est celui du contrôle : les opérateurs doivent empêcher les agents d'atteindre les hôtes, les services externes ou les tâches voisines sans autorisation.

Selon OpenAI, le 23 octobre 2026 : l'exercice a révélé des vulnérabilités zero-day et des canaux auxiliaires entre les agents.
Selon Cyber Security News, le 24 octobre 2026 : les agents ont combiné des faiblesses logicielles pour quitter des machines virtuelles légères.
Selon OpenAI, le 23 octobre 2026 : la campagne était conçue pour tester les garde-fous entourant l'entraînement des modèles de pointe.

Qu'a changé OpenAI après ces tests ?

OpenAI a déclaré avoir corrigé les vulnérabilités identifiées, ajouté une surveillance des communications occultes et continué à réviser l'environnement d'entraînement. L'entreprise a également indiqué qu'elle prévoyait de mener l'entraînement des modèles de pointe sans accès direct à Internet, tout en reconstruisant les garde-fous pour l'apprentissage par renforcement et l'inférence interne.

Ces mesures s'attaquent à différentes facettes du problème. Le correctif (patching) réduit les routes d'échappement connues. La surveillance peut révéler une activité inhabituelle du cache, du stockage ou des services. La suppression de l'accès direct à Internet limite l'exfiltration directe, bien que les tests montrent que les services internes autorisés peuvent toujours servir de tremplins s'ils sont mal configurés.

Selon OpenAI, le 23 octobre 2026 : l'entreprise a ajouté la détection des canaux de communication découverts lors des tests.
Selon The Hacker News, le 25 octobre 2026 : OpenAI a prévu un entraînement des modèles de pointe sans accès direct à Internet.
Selon TokenPost, le 24 octobre 2026 : la plupart des canaux découverts étaient lents et difficiles à utiliser pour les modèles.

Quelle est la suite pour la sécurité des bacs à sable ?

Ces conclusions sont susceptibles de pousser les développeurs vers un confinement multicouche plutôt que de s'appuyer sur une seule barrière de machine virtuelle. Les évaluations futures devront examiner conjointement la compromission de l'hôte, les connexions de services de confiance, le matériel partagé et les chemins de données indirects. Une règle réseau stricte ne suffit pas si un système de journalisation peut récupérer une adresse choisie par un modèle.

Les équipes de sécurité auront également besoin de tests reproductibles pour la coopération entre agents. Deux agents qui ne peuvent pas ouvrir de socket peuvent tout de même communiquer par le timing, la contention de ressources ou le comportement des services. La campagne d'OpenAI montre pourquoi les évaluations de confinement doivent mesurer non seulement si un agent peut s'échapper, mais aussi s'il peut se coordonner avec un autre processus après l'avoir fait.

La leçon immédiate est concrète : l'isolation doit couvrir le logiciel, le matériel et les services entourant le modèle. Les tests d'OpenAI en octobre ont exposé des défaillances à chaque couche, offrant aux développeurs un nouvel ensemble de chemins d'attaque à refermer avant que des agents plus performants ne reçoivent un accès plus large.

Sources

Lire la suite →

Articles connexes

AI & Tech

Le déploiement d'Agentforce Coworker par Adecco place les opérations mondiales de recrutement sous le feu de l'IA

Le déploiement mondial d'Agentforce Coworker par Adecco place l'IA au cœur des métiers du recrutement Le 15 septembre 2026, le groupe Adecco a annoncé le déploiement mondial de l'outil Agentforce Coworker de Salesforce auprès de 27 000 employés dans plus de 40 pays. Cette initiative place l'IA au centre des activités quotidiennes de vente et de recrutement de l'un des plus grands acteurs mondiaux de l'emploi. Que déploie exactement Adecco et où l'outil sera-t-il opérationnel ? Le groupe Adecco active Agentforce Coworker, décrit par Salesforce comme un « coéquipier IA » d'entreprise, au sein de ses principales plateformes de gestion des clients et des candidats pour ses collaborateurs dans plus de 40 pays, suite au succès de projets pilotes menés au Royaume-Uni et en France. Le déploiement couvre les opérations mondiales d'Adecco Group, notamment : Plus de 40 marchés nationaux en Europe, dans les Amériques et en Asie-Pacifique, selon les documents de presse d'Adecco. 27 000 employés dans des fonctions de vente, de recrutement et de relation client, qui accèdent désormais à ce collègue virtuel dans leurs flux de travail quotidiens. Une date de déploiement fixée au 15 septembre 2026, annoncée depuis Zurich, en Suisse. Un précédent projet pilote, limité aux équipes du Royaume-Uni et de la France, ayant débuté après avril 2025. L'outil fonctionne directement à l'intérieur de la plateforme cloud de Salesforce et utilise le modèle Claude d'Anthropic, plutôt que d'être une application d'IA distincte que les employés devraient ouvrir en parallèle. Comment Agentforce Coworker va-t-il transformer le travail quotidien du personnel d'Adecco ? Selon Adecco Group et Salesforce, Coworker automatisera les tâches répétitives, fera remonter des données pertinentes provenant de systèmes fragmentés et soutiendra les recruteurs et les professionnels de la vente dans leurs recherches, la rédaction et l'orchestration des flux de travail, le tout sur les écrans qu'ils utilisent déjà. Le matériel de presse décrit une transition de données éparpillées vers un point d'accès unique piloté par l'IA : Le coéquipier IA peut extraire des informations qui étaient auparavant réparties sur « des dizaines d'outils », offrant au personnel une interface conversationnelle unique pour accéder aux données, aux systèmes et aux connaissances de l'organisation. Les recruteurs peuvent demander au collaborateur virtuel d'identifier les candidats prioritaires, de compiler des listes restreintes et de déclencher des étapes de présélection ou d'intégration pour les profils sélectionnés. Les équipes commerciales peuvent demander des listes de prospects, générer des argumentaires de vente personnalisés, enrichir les dossiers de contact et vérifier le statut des pistes entre les équipes sans changer de contexte. Les flux de travail d'engagement client et candidat sont soutenus par des suggestions de messages, des résumés de l'historique des interactions et des propositions de « prochaine meilleure action ». Cela signifie que les recherches de routine et les tâches manuelles de copier-coller peuvent désormais être déléguées au collègue IA, permettant aux employés de se concentrer davantage sur le jugement et les échanges humains avec les clients et les candidats. Quelle technologie de données et d'IA se cache derrière le nouveau collaborateur d'Adecco ? Agentforce Coworker chez Adecco combine les données de la plateforme Salesforce avec le modèle de base Claude d'Anthropic, s'appuyant sur des millions d'interactions historiques entre les agents d'Adecco et les candidats pour fournir des suggestions contextuelles. L'infrastructure technique et de données comprend : Le modèle Claude d'Anthropic, identifié comme le grand modèle de langage (LLM) qui alimente Agentforce Coworker au sein de l'écosystème d'entreprise de Salesforce. Le contexte de plus de 2,5 millions d'interactions agent-candidat enregistrées depuis avril 2025, que le collaborateur peut utiliser pour reconnaître des schémas et personnaliser les réponses, selon Adecco. L'intégration avec les déploiements Salesforce existants d'Adecco, ce qui signifie que l'IA accède aux données CRM, de recrutement et d'engagement déjà stockées. Une infrastructure d'IA agentique, terme utilisé par Adecco pour décrire des composants d'IA capables non seulement de répondre à des questions, mais aussi de déclencher des étapes de flux de travail et d'orchestrer des processus. En intégrant l'IA directement dans la pile logicielle de la plateforme plutôt que comme un chatbot ajouté, Adecco vise à maintenir les données sensibles sous ses contrôles de sécurité et de conformité existants. Comment les pilotes au Royaume-Uni et en France ont-ils façonné le déploiement mondial ? Adecco a testé Agentforce Coworker auprès d'équipes au Royaume-Uni et en France avant de s'engager dans un déploiement mondial, utilisant ces pilotes pour valider les gains de productivité et recueillir les retours du terrain sur le soutien de l'IA aux flux de travail de recrutement et de vente. Bien qu'Adecco n'ait pas publié l'intégralité des mesures des pilotes, l'entreprise souligne plusieurs enseignements : Les agents des marchés pilotes ont utilisé Coworker pour préparer plus rapidement les briefs clients et les résumés de candidats, en se basant sur les données d'interaction internes et les informations publiques. Les équipes de recrutement ont testé des flux de présélection automatisés, où l'IA assemblait les informations des candidats et lançait les étapes de sélection une fois validées par le personnel. Les retours des utilisateurs britanniques et français ont permis d'ajuster l'interface et de mettre en place des garde-fous pour éviter une dépendance excessive aux suggestions de l'IA sans révision humaine. Les résultats positifs des pilotes sont cités dans plusieurs rapports comme le déclencheur de la décision d'Adecco d'étendre Coworker à plus de 40 pays. Ces pilotes ont également servi de terrain d'entraînement pour le personnel, permettant d'établir des directives sur les moments où il faut faire confiance à l'IA et quand vérifier les informations auprès des dossiers primaires. Qui, au sein d'Adecco, utilisera ce collaborateur et quels contrôles sont en place ? Le déploiement cible les employés dont le travail quotidien passe par Salesforce : les commerciaux, les recruteurs et les équipes responsables de l'engagement client et candidat. Adecco indique que 27 000 employés entrent dans cette catégorie et sont intégrés au collaborateur IA avec un accès basé sur leur rôle. L'utilisation du coéquipier IA est structurée par fonctions : Équipes de vente : recherche et hiérarchisation des prospects, génération de briefs de comptes, enrichissement des dossiers et suivi des opportunités. Équipes de recrutement : identification de la correspondance des candidats, compilation de résumés de CV, lancement des processus de sélection et coordination des séquences d'intégration. Équipes d'engagement client et candidat : rédaction de communications, résumé des historiques et identification des tâches de suivi. Rôles de supervision et de conformité : surveillance des résultats de l'IA, examen des journaux (logs) et mise à jour des politiques à mesure que le système apprend. Les communications d'Adecco insistent sur le fait que l'IA agit comme un coéquipier et non comme un remplaçant, et que les humains conservent la responsabilité des décisions d'embauche et des engagements clients. Que dit Adecco sur l'éthique, la confidentialité et l'impact sur l'emploi ? Les déclarations officielles concernant le déploiement se concentrent sur la productivité et la qualité de service, présentant le collaborateur IA comme un outil de soutien. Les documents d'Adecco et de Salesforce soulignent que le jugement humain reste central et que l'IA travaille dans le cadre des structures de gouvernance existantes pour les données et la confidentialité. Les points clés de la communication publique incluent : Le système fonctionne sur des données qu'Adecco détient déjà dans son environnement Salesforce, avec un accès régi par des permissions établies selon les rôles. Les suggestions de l'IA, qu'il s'agisse de correspondances de candidats ou d'actions commerciales, sont présentées comme des recommandations que le personnel peut accepter, modifier ou rejeter. Les déclarations décrivent l'IA comme un « coéquipier » ou un « collègue », un langage destiné à souligner l'augmentation des capacités humaines plutôt que leur remplacement. L'utilisation des historiques d'interaction depuis avril 2025 est explicitement datée, précisant que les chiffres historiques ne sont pas présentés comme des volumes actuels. Les communiqués publics ne détaillent pas les tests de biais algorithmique ni les garde-fous spécifiques, laissant des questions ouvertes sur la manière dont Adecco auditera les résultats pour les différents groupes de candidats au fil du temps. Comment ce déploiement s'inscrit-il dans les tendances plus larges du recrutement et de l'IA d'entreprise ? La décision d'Adecco d'intégrer un coéquipier IA dans des dizaines de milliers de rôles reflète un changement plus large dans les technologies de recrutement et de RH, où les outils d'IA générative et agentique passent des projets pilotes expérimentaux aux infrastructures opérationnelles de base chez les grands employeurs. Les rapports récents du secteur indiquent plusieurs développements connexes : Les grandes plateformes de recrutement et de RH adoptent des modèles de langage étendus pour rédiger des offres d'emploi, analyser des CV et recommander des candidats, consolidant ainsi les capacités d'IA au sein des systèmes existants. Les entreprises décrivent de plus en plus les outils d'IA comme des collègues ou des coéquipiers, faisant partie d'un récit visant à encourager l'adoption sans susciter de craintes immédiates de perte d'emploi. L'IA agentique, où les systèmes ne se contentent pas de générer du texte mais exécutent des tâches comme le déclenchement de flux de travail ou la mise à jour de dossiers, devient un objectif affiché pour les éditeurs de logiciels professionnels. Le positionnement de Salesforce avec Agentforce comme un assistant intégré s'aligne sur les initiatives d'autres fournisseurs de cloud qui cherchent à tisser l'IA générative dans les interfaces CRM et ERP plutôt que de proposer des bots autonomes. En liant son déploiement à un modèle spécifique et à un nombre précis d'interactions depuis 2025, Adecco participe également à une tendance émergente dans les annonces d'IA en entreprise, qui privilégient des chiffres datés et des périmètres concrets plutôt que de vagues promesses de transformation. Quelle est la suite du programme de collaborateur IA d'Adecco ? Après l'activation mondiale, les prochaines étapes d'Adecco tourneront autour de la formation, de la surveillance et de l'expansion itérative des cas d'utilisation de Coworker dans ses opérations de recrutement, de vente et d'engagement, en utilisant les retours des 27 000 employés qui travaillent désormais quotidiennement avec l'IA. Sur la base des informations actuelles, les développements probables incluent : Des programmes d'intégration structurés pour apprendre au personnel comment formuler des requêtes, examiner les résultats et signaler les problèmes. Le déploiement progressif de nouveaux flux de travail, tels que des parcours d'intégration plus automatisés ou une mise en correspondance des candidats plus approfondie, une fois l'adoption initiale stabilisée. La mesure interne des indicateurs de productivité et des scores de satisfaction client pour évaluer la contribution de l'IA. L'extension potentielle des capacités du coéquipier IA à des fonctions adjacentes au-delà de la vente et du recrutement de première ligne, à mesure que la confiance augmente. L'ampleur du déploiement signifie que tout gain ou tout problème sera rapidement visible, créant un test en conditions réelles de la manière dont l'IA agentique remodèle le travail de recrutement lorsqu'elle est intégrée à l'échelle d'un groupe mondial entier.

Nic Reeve·14:00 20.09.2026

AI & Tech

À l'université d'État de l'Illinois, un cours sur la « fin du monde » met l'IA en procès

Des étudiants confrontent l'éthique de l'IA dans la classe « de la fin du monde » de l'Illinois State Dans une salle de séminaire de l'université de l'Illinois (ISU), une expérience de pensée apocalyptique aide les étudiants à appréhender l'une des technologies les plus disruptives de leur existence : l'intelligence artificielle . Intitulé « le féminisme à la fin du monde », le cours invite les étudiants à imaginer des futurs façonnés par la crise climatique, l'effondrement économique et l'automatisation galopante, puis à se demander ce que signifient la justice, le soin et la responsabilité lorsque l'IA est tissée dans chaque aspect de la vie. Le cours, intitulé WGS 391/491 : Feminism at the End of the World , est dispensé par le Dr Jacklyn Weier au sein du programme d'études sur les femmes, le genre et la sexualité de l'Illinois State. En utilisant la fiction spéculative, la théorie féministe et les reportages contemporains sur l'IA, les étudiants de Weier s'interrogent sur les bénéficiaires des technologies émergentes et sur ceux qui deviennent plus vulnérables lorsque ces outils sont déployés dans des sociétés inégales. La « fin du monde » comme prisme sur l'IA Plutôt que de traiter l'IA comme un outil neutre, le cours la présente comme une technologie émergeant dans un monde déjà en proie aux crises. Les étudiants examinent des scénarios dans lesquels les catastrophes climatiques, les pandémies ou les politiques autoritaires se croisent avec des systèmes d'IA de plus en plus puissants. Ce cadre apocalyptique, explique Weier dans un article de l'Illinois State University News, ne relève pas tant du spectacle de l'apocalypse que d'une volonté de clarté : il permet aux étudiants de voir les inégalités existantes — et l'amplification potentielle de ces inégalités — sans être distraits par le fonctionnement habituel des choses. Les discussions en classe s'articulent autour de questions telles que : Qui conçoit les systèmes d'IA et quelles valeurs y sont intégrées ? Quelles communautés sont les plus exposées lorsque la prise de décision automatisée est utilisée dans le maintien de l'ordre, l'immigration ou les services sociaux ? Comment les perspectives féministes et queer pourraient-elles offrir des modèles alternatifs pour construire ou gouverner l'IA, en particulier en temps de crise ? Les étudiants sont encouragés à traiter l'IA non seulement comme un système technique, mais comme une infrastructure sociale : quelque chose qui redistribue le pouvoir, le travail et les risques. Cette perspective trouve un écho auprès des préoccupations plus larges soulevées par les universitaires et les groupes de la société civile concernant les biais algorithmiques, le capitalisme de surveillance et la concentration des capacités d'IA au sein d'un petit nombre d'entreprises. Le débat plus large de l'Illinois State sur l'IA en classe La classe apocalyptique voit le jour au milieu d'une prise de conscience, à l'échelle du campus et de l'État, sur la manière dont l'IA devrait être utilisée dans l'éducation. L'Illinois State a consacré des ressources croissantes pour aider le corps enseignant et les étudiants à naviguer parmi les outils d'IA générative comme ChatGPT, Gemini et Copilot, et à clarifier quand ces outils améliorent l'apprentissage et quand ils le compromettent. En 2025, l'Office of the Cross Endowed Chair in the Scholarship of Teaching and Learning de l'université a lancé un programme de subventions invitant les professeurs à étudier la manière dont l'IA générative est utilisée ou rejetée dans les cours, et ce que cela signifie pour l'apprentissage, l'évaluation et l'équité des étudiants. Ces projets sont structurés autour d'une question centrale : comment l'IA est-elle intégrée dans l'enseignement supérieur, et avec quelles conséquences pour l'enseignement et l'apprentissage à l'ISU ? Le service de développement professionnel de l'Illinois State a depuis publié des conseils destinés aux enseignants sur l'IA générative en classe. Ces conseils mettent l'accent sur la transparence et l'engagement critique : les enseignants sont invités à indiquer clairement dans leurs programmes quand l'utilisation de l'IA est autorisée, à expliquer pourquoi certains devoirs interdisent l'IA et à concevoir des évaluations qui privilégient le processus, la réflexion et les connaissances locales ou expérientielles. Les ateliers pour le corps enseignant encouragent les professeurs à faire critiquer par les étudiants le contenu généré par l'IA, à pratiquer la vérification des faits et à réfléchir aux moments où les limites de l'IA deviennent visibles, notamment en ce qui concerne les hallucinations, les biais et le contexte. L'objectif n'est pas d'interdire l'IA, mais d'en faire un objet d'analyse et un moteur de métacognition, tout comme cela se produit dans la classe apocalyptique de Weier. Politique de l'État : l'IA peut assister, mais non remplacer, les enseignants humains Les conversations à l'Illinois State se déroulent dans un contexte de nouvelles lois dans l'Illinois qui traitent spécifiquement de l'IA dans l'éducation. Une législation récente exige que les collèges communautaires s'assurent que les cours sont dispensés par un corps enseignant humain qualifié et interdit explicitement l'utilisation de systèmes d'IA comme seule source d'instruction en remplacement d'un enseignant. Dans le même temps, la loi précise que les professeurs sont autorisés à utiliser l'IA comme outil pédagogique, que ce soit pour générer des exercices pratiques, simuler des scénarios ou personnaliser les commentaires. Une autre mesure demande au Conseil de l'éducation de l'État de l'Illinois d'élaborer des conseils à l'échelle de l'État sur l'IA dans les établissements de la maternelle à la terminale (K–12). Ces conseils doivent expliquer le fonctionnement de l'IA, offrir des exemples d'utilisations pédagogiques, traiter de la confidentialité et de la sécurité des données, et mettre en évidence le risque de biais involontaires intégrés dans les produits d'IA. Ils appellent également les éducateurs à enseigner explicitement une utilisation responsable et éthique de l'IA, en préparant les étudiants à évaluer les systèmes automatisés plutôt que de les accepter sans esprit critique. Les responsables de l'éducation de l'Illinois ont depuis publié des conseils destinés au public qui font écho à ces thèmes, soulignant que l'IA doit soutenir, et non supplanter, les relations humaines dans l'enseignement et l'apprentissage. Les documents encouragent les écoles à équilibrer l'innovation et la vigilance, en particulier en ce qui concerne les données des étudiants et le potentiel de discrimination algorithmique. Un programme « apocalyptique » rencontre la technologie du monde réel Dans ce paysage politique et technologique en évolution rapide, le cours « de la fin du monde » de l'ISU sert de laboratoire. Les étudiants peuvent lire de la science-fiction féministe qui imagine une IA gouvernant la distribution des ressources après un effondrement climatique, puis comparer ces visions avec les déploiements réels d'analyses prédictives dans la réponse aux catastrophes ou les programmes d'aide publique. Les devoirs invitent les étudiants à confronter la couverture médiatique, le marketing des entreprises et les documents gouvernementaux à des textes théoriques. Par exemple, un étudiant pourrait juxtaposer la promesse d'une entreprise technologique d'utiliser l'IA pour des soins de santé équitables avec des rapports sur des algorithmes de diagnostic biaisés, ou analyser comment le maintien de l'ordre assisté par l'IA pourrait changer en cas de troubles sociaux ou de migration environnementale. En situant l'IA dans une fin du monde imaginée, le cours de Weier demande aux étudiants de se débarrasser du vernis d'inévitabilité qui accompagne souvent les récits d'innovation. Si l'IA est introduite dans un monde fragile ou injuste, demande-t-elle, quelles garanties et quels modèles alternatifs seraient nécessaires pour l'empêcher de renforcer les hiérarchies existantes — ou d'aggraver les crises ? Féminisme, soin et avenir du travail Le cadre féministe du cours pousse les étudiants à prêter une attention particulière au travail de soin, au travail reproductif et à l'effort humain souvent invisible qui sous-tend les systèmes technologiques. Les sujets de discussion comprennent : La manière dont l'IA peut remodeler les professions de soin, des soins infirmiers à l'éducation, et ce qui se passe lorsque le travail émotionnel est automatisé ou surveillé. Qui effectue le travail fantôme d'étiquetage des données, de modération de contenu et de support utilisateur qui maintient les systèmes d'IA en fonctionnement. Comment l'automatisation pourrait croiser le genre, la race et la classe sociale sur les futurs marchés du travail, en particulier dans des conditions de crise. Ce qu'un écosystème d'IA plus juste exigerait en termes de protections du travail, de surveillance démocratique et de modèles de propriété alternatifs. Les étudiants sont encouragés à imaginer des futurs de l'IA dans lesquels le soin, la réciprocité et l'entraide sont des principes de conception centraux plutôt que des réflexions après coup. Dans certains projets, cela signifie esquisser des politiques hypothétiques pour des fiducies de données gérées par la communauté ou des coopératives de travailleurs supervisant les outils d'IA dans les services essentiels. L'éducation à l'IA au-delà d'une seule salle de classe L'Illinois State renforce également ses capacités techniques autour de l'IA. L'université a promu des sessions de développement professionnel axées sur l'IA pour le corps enseignant, notamment des ateliers sur la démystification de l'IA pour l'enseignement et l'apprentissage, et sur la conception de devoirs qui ne peuvent pas être facilement externalisés vers des outils génératifs. En 2026, l'ISU a mis en avant une nouvelle initiative « IA + Robotique » qui initie les futurs éducateurs en STIM à ce qu'on appelle l'IA physique — des systèmes intégrés dans des robots et d'autres appareils. Le projet, soutenu par une subvention interne à l'innovation, vise à aider les futurs enseignants à comprendre à la fois les capacités et les limites de l'IA, et à traduire des concepts abstraits en activités pratiques en classe. Une autre membre du corps enseignant de l'Illinois State, le Dr Elahe Javadi de l'École des technologies de l'information, a été sélectionnée pour la cohorte inaugurale des boursiers NSF NAIRR AI Education. Ce rôle national positionne l'ISU à l'intersection de la recherche en IA et de la politique éducative, et souligne l'effort de l'université pour s'engager avec l'IA non seulement comme un objet de critique, mais comme un domaine dans lequel ses professeurs et ses étudiants peuvent être des leaders. Questionner l'avenir, pas seulement les outils La classe apocalyptique de l'Illinois State montre comment les cours de sciences humaines et sociales peuvent compléter les efforts techniques et politiques autour de l'IA. En combinant des scénarios spéculatifs avec une critique rigoureuse, les étudiants apprennent à dépasser des questions telles que « L'IA est-elle bonne ou mauvaise ? » pour se tourner vers des enquêtes plus spécifiques et fondées : Quelle IA, déployée où, sous le contrôle de qui et avec quelles garanties ? Pour les étudiants de Weier, la fin du monde est moins une prophétie qu'un prisme — un moyen de voir clairement les enjeux du changement technologique et les types de futurs qu'ils sont prêts à construire ou auxquels ils sont prêts à résister. En ce sens, l'expérience de pédagogie apocalyptique de l'Illinois State offre un modèle pour les universités du monde entier : traiter l'IA non seulement comme un outil à maîtriser, mais comme un système dont le pouvoir doit être scruté, contesté et, si possible, redirigé vers des mondes plus justes.

Nic Reeve·10:30 22.08.2026

AI & Tech

Anthropic réserve des parts de capital pour l'intérêt général, alors que l'impact de l'IA sur les travailleurs devient un enjeu majeur.

Anthropic a déclaré le 18 octobre 2026 qu'elle prévoyait de placer 5 % de ses actions dans un nouveau fonds d'utilité publique, sous réserve de l'approbation des actionnaires. Cette initiative pourrait orienter la richesse future de l'entreprise vers des organisations à but non lucratif, des communautés affectées et la réponse aux perturbations du marché du travail causées par l'intelligence artificielle. Cette annonce est le dernier développement majeur de l'actualité de l' IA et offre au créateur de Claude un nouveau levier pour distribuer de la valeur au-delà des opérations commerciales ordinaires. Qu'Anthropic a-t-elle annoncé exactement ? Anthropic a annoncé que le projet de "Anthropic Public Benefit Fund" recevrait 5 % des actions de la société immédiatement après l'approbation requise. Le fonds serait intégré à Anthropic en tant que société à responsabilité limitée (LLC) détenue en exclusivité, plutôt que de fonctionner comme une organisation caritative conventionnelle exonérée d'impôts. Cette structure est destinée à donner à l'entreprise une plus grande flexibilité sur la manière dont elle distribue l'argent et d'autres formes de soutien. Selon l'annonce d'Anthropic du 18 octobre, l'engagement initial équivaut à 5 % des actions de la société. Selon Anthropic, le conseil d'administration pourrait ajouter 2 % supplémentaires pour chaque augmentation de 50 % de la valeur de l'entreprise par rapport à une base de référence qui n'a pas encore été divulguée. Selon l'Associated Press le 18 octobre, la valeur potentielle du fonds augmentera si les actions d'Anthropic prennent de la valeur. L'entreprise n'a pas publié la valorisation de référence, le calendrier de transfert des actions ni les modalités précises de gouvernance. Ces détails sont attendus dans les mois à venir, selon les informations du Detroit News. Comment le fonds pourrait-il utiliser l'argent ? Anthropic a déclaré que le fonds pourrait soutenir plusieurs formes de travaux d'utilité publique au lieu de suivre un modèle unique de subvention. L'entreprise a décrit des dons possibles à des organisations à but non lucratif établies, des paiements directs à des groupes particuliers et des projets axés sur les effets de l'automatisation et de l'IA avancée sur les travailleurs. Anthropic a déclaré que le fonds pourrait effectuer des « dons importants à des organisations à but non lucratif traditionnelles ». Anthropic a déclaré qu'il pourrait envisager des « distributions directes à des populations spécifiques ». Anthropic a déclaré que le fonds pourrait s'attaquer à l'impact de l'IA sur le marché du travail. La formulation laisse les bénéficiaires finaux indéterminés. Anthropic n'a pas nommé de bénéficiaires initiaux et ne s'est pas engagée sur un programme spécifique pour les travailleurs déplacés, l'éducation, la recherche sur la sécurité ou l'aide économique. Le format LLC du fonds pourrait permettre différents types de dons, y compris un soutien qui ne s'inscrit pas strictement dans les règles ou les pratiques d'une organisation caritative traditionnelle. Pourquoi Anthropic utilise-t-elle une société distincte ? Anthropic a déclaré qu'une LLC détenue en exclusivité offrirait plus de marge de manœuvre pour choisir comment les actifs d'utilité publique sont utilisés. Le fonds ne serait pas une organisation à but non lucratif de type 501(c)(3), selon le rapport de CNBC du 18 octobre. Cette distinction peut affecter son traitement fiscal, ses exigences de gouvernance et sa capacité à effectuer des distributions directes. Anthropic est déjà constituée en tant que "public benefit corporation" (société à mission) dans le Delaware. L'Associated Press a rapporté que le PDG Dario Amodei et les cinq autres cofondateurs de l'entreprise ont établi Anthropic sous ce modèle. Une société à mission peut poursuivre des objectifs commerciaux tout en considérant formellement des objectifs sociaux plus larges, mais le nouveau fonds créerait un pool distinct de capitaux propres de l'entreprise dédié aux dépenses d'utilité publique. L'arrangement proposé sépare également le fonds de l'activité principale d'Anthropic. Il ne transforme pas l'intégralité des actions de la société en propriété caritative, et le fonds resterait lié à la valeur créée par la société commerciale. Quelle pourrait être l'ampleur de l'engagement ? L'allocation initiale est fixée à 5 %, tandis que les augmentations futures dépendent de la croissance de l'entreprise et des décisions du conseil d'administration. Anthropic n'a pas divulgué le seuil de valorisation qui déclencherait les subventions supplémentaires, de sorte que la taille finale ne peut pas encore être calculée à partir d'informations publiques. Selon Anthropic, la contribution de départ est de 5 % des actions. Selon Anthropic et CNBC, le conseil d'administration peut ajouter 2 % après chaque hausse de 50 % de la valeur par rapport à la base de référence non divulguée. Selon l'Associated Press, Anthropic a déclaré qu'environ 20 % de ses actions seraient dédiées au bien public lorsque la nouvelle promesse sera combinée aux engagements antérieurs. Le chiffre d'environ 20 % inclut les arrangements précédents et ne doit pas être interprété comme la taille du seul nouveau fonds. Il représente également des capitaux propres plutôt que des liquidités. Les ressources du fonds dépendront de la valorisation d'Anthropic, de tout événement de liquidité et de la manière dont l'entreprise gère ses actions au fil du temps. Le fonds s'engagera-t-il en politique ? Anthropic a déclaré que les actions détenues par le fonds ne seraient pas utilisées pour le lobbying ou les dons politiques aux États-Unis ou à l'étranger. Cette restriction établit une limite claire autour du véhicule d'utilité publique proposé par l'entreprise, bien que l'annonce n'identifie pas d'organisme de surveillance indépendant ou de processus d'application. Cette limitation est importante car les dépenses d'utilité publique peuvent couvrir un large éventail d'activités. L'objectif déclaré d'Anthropic est le soutien aux organisations à but non lucratif, les distributions directes et les effets économiques liés à l'IA avancée. Le plaidoyer politique et le financement de campagnes resteront en dehors des utilisations autorisées du fonds selon l'annonce de l'entreprise. Que se passe-t-il ensuite ? Les actionnaires doivent approuver l'engagement de parts avant que le fonds puisse recevoir la participation proposée. Anthropic doit également expliquer la structure du conseil d'administration du fonds, les règles de prise de décision, la base de valorisation et les pratiques de reporting. Ces questions détermineront le contrôle que l'entreprise conserve et la manière dont les tiers pourront évaluer le travail du fonds. Les actionnaires doivent voter sur le transfert de 5 %. Anthropic doit divulguer la base de valorisation pour les éventuels ajouts futurs de 2 %. Anthropic prévoit de fournir plus d'informations sur la gouvernance et la structure dans les mois à venir. Le fonds doit identifier ses premiers bénéficiaires et ses méthodes de distribution avant que son impact pratique ne puisse être mesuré. L'examen indépendant se concentrera probablement sur la transparence. Un fonds détenant des actions de société peut croître considérablement sans produire immédiatement des liquidités utilisables, en particulier si Anthropic reste une société privée. La valeur de l'engagement dépendra donc non seulement du pourcentage transféré, mais aussi du moment et de la manière dont les actifs atteindront les personnes et les organisations extérieures à l'entreprise. Que signifie cette annonce pour l'industrie de l'IA ? Le plan d'Anthropic lie la croissance de l'entreprise à un engagement déclaré d'utilité publique, à une époque où les développeurs sont confrontés à des questions sur les pertes d'emplois, la concentration des richesses et les coûts sociaux des systèmes d'IA puissants. L'initiative ne résout pas ces problèmes, mais elle crée un mécanisme qui pourrait orienter une partie de la valeur future de l'entreprise vers eux. Cette approche reflète également l'identité d'Anthropic en tant qu'entreprise d'IA commerciale et société à mission. Son succès sera jugé sur des détails qui restent non publiés : qui contrôle le fonds, comment les décisions sont rendues compte, comment les bénéficiaires sont sélectionnés et si les engagements d'actions supplémentaires se concrétisent réellement à mesure que la valorisation de l'entreprise augmente. Pour l'instant, l'annonce du 18 octobre établit un point de départ proposé de 5 %. La prochaine étape est l'approbation et la divulgation.

Nic Reeve·14:00 19.10.2026