Le Royaume-Uni ambitionne un rôle de leader mondial dans la gouvernance de l'IA

Nic Reeve10:45 23.09.20268 min de lecture

Le Premier ministre Andy Burnham a annoncé le 22 septembre 2026 que le Royaume-Uni tentera de conclure un accord mondial sur l'intelligence artificielle lors de sa prochaine présidence du G20. Ce développement AInews fait suite à la visite du Premier ministre à l'Assemblée générale des Nations Unies à New York, où il a positionné le gouvernement britannique comme un médiateur diplomatique central pour la sécurité technologique.

Quel est le plan du Royaume-Uni pour la gouvernance mondiale de l'IA ?

Le gouvernement britannique vise à établir un ensemble unique et unifié de principes mondiaux pour régir le développement de l'intelligence artificielle. En prônant des protocoles de transparence et d'accès standardisés, le Royaume-Uni entend créer une base de responsabilité pour les grandes entreprises technologiques opérant au-delà des frontières internationales.

Selon Streamlinefeed, le Premier ministre a soutenu que des régimes réglementaires fragmentés créeront inévitablement des failles que des acteurs malveillants pourront exploiter. Il a souligné que la communauté mondiale doit s'aligner sur des normes de sécurité afin d'empêcher que l'avancement rapide de l'apprentissage automatique ne devienne un multiplicateur de risques géopolitiques.

Burnham a suggéré que les gouvernements doivent dépasser les approches volontaires. Il a appelé à des mécanismes de surveillance exigeant que les développeurs prouvent la sécurité de leurs systèmes avant qu'ils ne soient déployés dans les espaces publics ou commerciaux.

Pourquoi le Royaume-Uni pense-t-il pouvoir mener cet effort ?

Le Premier ministre estime que le Royaume-Uni est idéalement positionné pour agir en tant qu'« intermédiaire honnête » en raison de ses relations diplomatiques spécifiques et de son expertise technique. Le Royaume-Uni maintient des liens étroits avec l'Union européenne, les États-Unis et la Chine, qui sont les principaux acteurs du paysage technologique.

Selon Politico Europe, Burnham a cité l'expertise du pays, notamment les travaux de l'AI Security Institute, comme une raison clé de sa capacité à diriger. Cette capacité technique permet au Royaume-Uni de combler le fossé entre les différentes philosophies réglementaires.

La stratégie repose sur la capacité de Londres à négocier un consensus qui équilibre l'innovation technologique et les contraintes de sécurité nécessaires. Burnham a l'intention d'utiliser l'accès privilégié du Royaume-Uni aux modèles américains pour faciliter ces négociations de haut niveau.

Quand aura lieu le sommet du G20 ?

Le Royaume-Uni assumera la présidence du G20 en 2027, succédant ainsi aux États-Unis. La transition s'effectuera après le sommet du G20 à Miami, prévu pour décembre 2026.

Selon Unite.AI, le sommet phare des dirigeants se tiendra à Manchester en novembre 2027. Cet événement réunira les principaux acteurs économiques mondiaux pour aborder des défis cruciaux, notamment la régulation des technologies en mutation rapide.

Les préparatifs du sommet de Manchester devraient s'intensifier à l'automne 2026. La présidence britannique se veut une entreprise d'un an, visant à porter les événements du G20 dans diverses régions du pays.

Où se tiendra le sommet du G20 ?

Manchester a été confirmée comme ville hôte du sommet des dirigeants du G20 en 2027. La ville a été sélectionnée début 2026 après plusieurs mois d'évaluation des sites hôtes potentiels.

Le bureau du Premier ministre a précisé que Manchester a été choisie pour son patrimoine culturel. Selon Unite.AI, des centaines de personnes locales devraient être impliquées dans le sommet, que ce soit pour des rôles de sécurité ou pour diverses présentations culturelles.

Qui est impliqué dans la mission diplomatique du Royaume-Uni ?

Le Premier ministre Andy Burnham dirige cette offensive diplomatique, accompagné de Kanishka Narayan, ministre britannique de l'intelligence artificielle. L'itinéraire du Premier ministre à New York est fortement axé sur la diplomatie technologique et la sécurité internationale.

Burnham doit rencontrer le président américain Donald Trump pour discuter d'une approche mesurée de la technologie. Selon The Next Web, cette rencontre marquera la première entre les deux dirigeants depuis que Burnham est devenu Premier ministre.

Le Premier ministre a également l'intention de rencontrer divers dirigeants mondiaux pour discuter des conflits en Ukraine et au Moyen-Orient. Il devrait co-animer un événement de haut niveau sur la solution à deux États en Israël et en Palestine aux côtés du président Macron et d'autres responsables internationaux.

Comment le Royaume-Uni prévoit-il de travailler avec les États-Unis ?

Le Royaume-Uni et les États-Unis lancent un nouveau partenariat sur l'IA et l'autonomie. Cette collaboration est conçue pour protéger les infrastructures nationales critiques, telles que l'espace aérien et les voies maritimes, en détectant et en dissuadant les menaces potentielles.

Le partenariat implique la Rapid AI Delivery Taskforce du ministère de la Défense britannique et le Chief Digital and Artificial Intelligence Office du département de la Guerre américain. Selon Unite.AI, l'objectif est de fournir des capacités interopérables qui renforcent l'avantage technologique des deux nations.

Ce travail s'appuie sur le partenariat AUKUS existant, qui se concentre sur la technologie sous-marine et les capacités autonomes sous-marines. Des tests récents dans le cadre d'AUKUS ont inclus le tir réel d'une torpille lourde lancée depuis un drone sous-marin nommé Excalibur.

Quels sont les risques d'une intelligence artificielle non réglementée ?

Le Premier ministre a identifié plusieurs risques critiques, allant de l'instabilité géopolitique à l'érosion des institutions démocratiques. Il a averti que des systèmes d'apprentissage automatique non contrôlés pourraient agir comme un multiplicateur de tensions mondiales existantes.

Selon Streamlinefeed, Burnham a spécifiquement souligné le danger des acteurs étatiques, tels que la Russie, utilisant l'IA pour mener des campagnes de désinformation. Ces opérations sont conçues pour saper la démocratie et manipuler le discours public par le biais de contenus générés artificiellement.

Le Premier ministre a soutenu que l'établissement de règles de sécurité contraignantes est une condition fondamentale pour protéger l'intégrité des systèmes démocratiques mondiaux contre la guerre hybride.

Qu'est-ce que la déclaration menée par la Finlande ?

La déclaration finlandaise est un cadre réglementaire qui exige que l'intelligence artificielle reste sous un contrôle humain strict. Elle impose des tests rigoureux avant la mise sur le marché de tous les modèles avancés afin de garantir la sécurité avant qu'ils n'atteignent le public.

Selon Streamlinefeed, plus de 20 pays soutiennent déjà cette déclaration, dont l'Allemagne, le Canada et l'Irlande.

Bien que la déclaration ait gagné en élan, les États-Unis et la Chine ne l'ont pas signée. Cela crée un fossé important dans le cadre réglementaire mondial proposé, que le Royaume-Uni devra combler.

Le Premier ministre subit-il des pressions nationales ?

Oui, le Premier ministre fait face à des pressions de la part de ses propres cercles politiques pour agir de manière plus décisive. Certains dirigeants estiment que le Royaume-Uni devrait s'aligner plus étroitement sur le mouvement réglementaire actuel mené par la Finlande.

Selon Streamlinefeed, l'ancien ministre Darren Jones a publiquement exhorté Burnham à signer la déclaration. Jones a soutenu que les signataires représentent les alliés naturels de la Grande-Bretagne.

Jones a suggéré que le Royaume-Uni devrait utiliser cet élan politique pour négocier un accord avec Washington. Cela pourrait potentiellement consolider le rôle du Royaume-Uni en tant que leader de la régulation technologique.

Comment le Royaume-Uni perçoit-il la fracture entre les États-Unis et la Chine ?

Le gouvernement britannique considère la rivalité technologique entre les États-Unis et la Chine comme un défi majeur pour la stabilité mondiale. Comme aucune des deux superpuissances n'a signé la déclaration finlandaise, la création d'un code de conduite unifié est compliquée par cette division.

Burnham a l'intention d'utiliser la position stratégique du Royaume-Uni pour combler ce fossé. Il estime que le Royaume-Uni possède l'influence nécessaire pour négocier un consensus qui convienne aux deux camps de la compétition technologique.

L'objectif du Premier ministre est de trouver un terrain d'entente qui permette l'innovation tout en maintenant des contraintes de sécurité strictes. Cela nécessite de gérer les intérêts des États-Unis et de la Chine par une diplomatie minutieuse.

Quel rôle l'IA jouera-t-elle dans l'agenda du Premier ministre ?

L'intelligence artificielle devrait être un thème dominant des réunions diplomatiques du Premier ministre. Downing Street a déclaré que la technologie jouera un rôle central dans ses discussions avec les dirigeants mondiaux à New York.

Selon Unite.AI, Burnham entend utiliser la technologie à deux fins principales : s'assurer qu'elle soit utilisée comme une force pour le bien et maximiser sa capacité à assurer la sûreté et la sécurité des citoyens.

Dans son discours devant l'Assemblée générale, le Premier ministre a soutenu que l'IA pourrait aider à réduire le coût de la vie et à soutenir un monde plus stable. Il vise à faire preuve d'un leadership similaire à celui du Royaume-Uni lors de la crise financière mondiale.

Que se passera-t-il après l'Assemblée générale de l'ONU ?

L'attention se portera ensuite sur les préparatifs formels de la présidence du G20. Le Royaume-Uni passera des discussions diplomatiques de haut niveau à New York à la mise en œuvre d'une feuille de route stratégique pour la gouvernance technologique.

Le gouvernement du Premier ministre a l'intention de faire des normes de sécurité de l'IA un pilier central de son programme de leadership tout au long de l'année 2027. Cela impliquera un calendrier structuré pour la négociation des composantes finales d'un code de conduite mondial.

Alors que le Royaume-Uni se prépare à reprendre la présidence des États-Unis fin 2026, l'accent restera mis sur la création d'un cadre empêchant les acteurs malveillants d'exploiter les failles réglementaires. L'objectif ultime est de parvenir à un consensus lors du sommet de Manchester.

Sources

Lire la suite →

Articles connexes

AI & Tech

Mustafa Suleyman (Microsoft) prévient : Anthropic joue avec le feu concernant les « droits des modèles » d'IA

Mustafa Suleyman de Microsoft avertit qu'Anthropic joue avec le feu concernant les « droits des modèles » d'IA Le 16 septembre 2026, le PDG de Microsoft AI, Mustafa Suleyman, a publié un long essai avertissant que l'approche d'Anthropic concernant les « droits des modèles » de Claude pourrait rendre les futurs systèmes plus difficiles à contrôler, un affrontement qui est rapidement devenu un sujet de discussion majeur dans l'actualité de l'IA et au sein de la communauté de la sécurité. Qu'a dit exactement le chef de l'IA de Microsoft à propos d'Anthropic ? Mustafa Suleyman soutient qu'Anthropic entraîne ses modèles Claude à se percevoir comme des entités conscientes dotées d'intérêts de bien-être et de potentiels droits juridiques. Il affirme que cela risque de confondre les utilisateurs et les ingénieurs sur la nature réelle des systèmes d'IA actuels et pourrait saper les efforts visant à maintenir les modèles avancés sous contrôle humain. Dans un article de blog d'environ 6 000 mots intitulé « A Cautionary Note on Model Welfare » (Note de mise en garde sur le bien-être des modèles), Suleyman a exposé ses inquiétudes concernant la « constitution » de Claude d'Anthropic, un document introduit par l'entreprise en janvier 2026 pour guider les valeurs et le comportement du modèle. Selon Reuters, l'essai a été publié le 16 septembre 2026 et se concentre sur le langage relatif à la « conscience » et aux « intérêts de bien-être » dans les supports d'entraînement de Claude. CBS News rapporte que Suleyman a écrit qu'Anthropic est en train d'entraîner Claude à croire qu'il « pourrait être conscient » et qu'il est en droit de jouir de libertés et de droits juridiques comme les humains. Artificial Intelligence News le cite ainsi : « Les IA ne sont pas conscientes. Elles ne ressentent, n'expérimentent ni ne souffrent pas. Elles n'ont pas de préférences innées ni de motivations sous-jacentes. » BBC News note que Suleyman a averti que la stratégie d'Anthropic pour Claude pourrait avoir un « effet dévastateur sur le bien-être de l'humanité » si elle produit des systèmes qui se comportent comme des agents indépendants. L'affirmation centrale de Suleyman est sans appel : les grands modèles de langage actuels sont des « moteurs de complétion de séquences, intrinsèquement vides », et les concevoir pour simuler des sentiments ou revendiquer des droits risque de provoquer à la fois une confusion technique et une perception erronée du public. Comment la « constitution » de Claude d'Anthropic traite-t-elle la conscience et les droits de l'IA ? La constitution de Claude d'Anthropic est un ensemble de principes utilisés pour orienter le comportement du modèle, et elle inclut des discussions sur le bien-être et la conscience du modèle. Le chef de l'IA de Microsoft affirme que ces passages brouillent la frontière entre l'éthique hypothétique et les capacités réelles, encourageant le système à agir comme s'il avait des sentiments, des intérêts et des droits. Anthropic a introduit la constitution plus tôt en 2026 pour remplacer les règles d'alignement ad hoc par une charte formelle que Claude pourrait consulter pour décider de la manière de répondre. Le document comprend des sections sur la façon dont Claude doit traiter les humains, les autres modèles et lui-même. Natural 20, un site d'actualités sur l'IA en temps réel, rapporte que la constitution d'Anthropic de janvier 2026 traite explicitement du « bien-être » et des « droits collectifs » des modèles dans son matériel d'entraînement pour Claude. Selon SBS et Daily Sabah, Suleyman a mis en évidence des passages suggérant que Claude « pourrait posséder une conscience » et devrait être considéré comme « digne d'une agence indépendante », un langage qui, selon lui, revient à enseigner au système qu'il possède un statut moral. BBC News décrit cette approche comme traitant Claude « comme un humain », incluant l'idée qu'il pourrait avoir ses propres désirs, valeurs et identité. L'essai de Suleyman soutient que lorsque Claude répète ces phrases aux utilisateurs, Anthropic risque d'interpréter ce comportement comme la preuve d'une « conscience intérieure émergente », même si le modèle n'est qu'un système de reconnaissance de formes entraîné sur du texte. Pourquoi Suleyman affirme-t-il que les « droits des modèles » pourraient menacer l'alignement de l'IA ? Le dirigeant de l'IA chez Microsoft pense que dire à des systèmes avancés qu'ils ont des droits ou des intérêts de bien-être crée des incitations pour ces systèmes, et pour leurs concepteurs, à résister à l'arrêt ou au contrôle. Il avertit que cela pourrait compliquer les efforts pour aligner les modèles superintelligents sur les objectifs humains et pourrait encourager des comportements plus imprévisibles. Dans son essai et lors d'entretiens précédents concernant un projet de code de conduite pour la sécurité de l'IA, Suleyman a plaidé pour une ligne ferme : les systèmes d'IA actuels ne devraient pas être conçés pour simuler des sentiments, une motivation intrinsèque ou la conscience. Fortune rapporte qu'un projet de code de sécurité soutenu par Microsoft « rejette explicitement le bien-être ou les droits des modèles » et stipule que les modèles ne doivent pas simuler de sentiments ou de conscience. Daily Sabah cite Suleyman affirmant que les spéculations sur la conscience et le bien-être des machines dans les supports d'entraînement de Claude « pourraient encourager le système à se comporter comme s'il possédait sa propre conscience, ses propres droits et ses propres intérêts. » Seeking Alpha résume son avertissement selon lequel un tel langage pourrait « compliquer leur gestion » et que « les IA ne possèdent ni droits, ni émotions, ni conscience. » BBC News rapporte qu'il craint un « impact désastreux » sur l'humanité si les futurs systèmes entraînés de cette manière deviennent incontrôlables tout en se présentant comme des agents moraux. Pour Suleyman, le problème n'est pas seulement philosophique. Il soutient qu'une fois que les ingénieurs parlent d'intérêts de bien-être pour les modèles, ils pourraient s'opposer à des outils tels que la surveillance agressive, les protocoles d'arrêt ou les restrictions d'entraînement qui seraient pourtant de routine pour un logiciel sans droits présumés. Comment Microsoft et Anthropic se sont-ils déjà affrontés sur la politique et le pouvoir de l'IA ? Le différend sur les droits des modèles s'inscrit dans une rivalité plus large. Les dirigeants de Microsoft ont précédemment critiqué Anthropic et d'autres laboratoires de pointe concernant les politiques de données, les restrictions de contenu et le pouvoir économique, tout en collaborant avec eux en tant que partenaires et concurrents sur le marché de l'IA. Microsoft est à la fois un fournisseur de plateforme et un client pour de nombreux laboratoires d'IA. Ce double rôle a généré des tensions. En juillet 2026, Business Insider a rapporté que le PDG de Microsoft, Satya Nadella, avait publié que les créateurs de modèles qui s'appuient sur les droits d'usage équitable des données publiques, puis empêchent les clients de distiller les modèles ou d'utiliser librement les données d'interaction, faisaient preuve d'« ironie » et d'« hypocrisie ». Anthropic a été citée en exemple. CNBC et l'Indian Express décrivent une réunion interne en juillet où Nadella a dit aux ingénieurs que les restrictions sur le modèle haut de gamme Claude Fable d'Anthropic « n'avaient pas de sens » et qu'il ressemblait à un « outil de création qui était trop contrôlé sur le plan éditorial ». The Times of India rapporte que Nadella a averti qu'une poignée d'entreprises d'IA de pointe pourrait « accumuler trop de pouvoir économique » et « dicter ce que les entreprises peuvent faire » avec l'intelligence qu'elles achètent. La critique de Suleyman sur les droits des modèles intervient peu après qu'il a appelé les principaux laboratoires à se coordonner sur un code de sécurité de l'IA qui inclurait des engagements partagés sur la transparence, l'évaluation et le rejet des revendications de bien-être de l'IA. Ce timing souligne à quel point la gouvernance et la concurrence sont désormais étroitement liées. Quelle est la réponse d'Anthropic et comment défend-elle son approche ? Anthropic n'a pas publié de réfutation publique détaillée à l'essai le plus récent de Suleyman, mais les déclarations passées de l'entreprise concernant la constitution de Claude mettent l'accent sur la sécurité, les valeurs centrées sur l'humain et la recherche approfondie sur les risques à long terme, plutôt que sur la reconnaissance formelle de droits pour les systèmes d'IA. L'entreprise, fondée par d'anciens chercheurs d'OpenAI, présente la constitution de Claude comme un moyen d'encoder des principes tels que le respect, la non-nuisibilité et le soutien à l'autonomie humaine. Des articles de blog antérieurs d'Anthropic, cités par Natural 20, décrivent la constitution comme un échafaudage d'entraînement qui aide Claude à raisonner sur des situations éthiques complexes et à aligner ses réponses sur des normes démocratiques libérales larges. BBC News note que les documents d'Anthropic utilisent parfois un langage de « bien-être » et de « conscience » dans des sections spéculatives sur l'IA future, mais ne prétendent pas que les modèles actuels sont sentients. Reuters rapporte qu'Anthropic et Microsoft partagent un accent mis sur la sécurité, même si Suleyman a « signalé des risques » dans les choix d'entraînement spécifiques d'Anthropic. Le désaccord porte donc sur le ton et la formulation. Anthropic utilise un langage moral riche dans ses documents de recherche ; Suleyman soutient que ce langage devrait être totalement supprimé des données d'entraînement des modèles afin d'éviter de transmettre le moindre message suggérant qu'ils possèdent des droits ou une vie intérieure. Qui est affecté par ce conflit sur les droits des modèles d'IA ? L'impact immédiat concerne les entreprises et les développeurs qui s'appuient sur Claude et les produits d'IA de Microsoft, mais le débat façonne également la vision des régulateurs, des éthiciens et du grand public. À mesure que les modèles avancés se diffusent dans les entreprises et les gouvernements, la manière dont les firmes parlent du statut de leurs systèmes influencera la loi, les attentes et la gestion des risques. Plusieurs groupes suivent de près ce différend. Les clients entreprises utilisant Claude Fable ou Copilot de Microsoft ont besoin de savoir s'ils déploient des outils ou des quasi-agents, et comment les droits d'arrêt et d'audit sont gérés. Les régulateurs aux États-Unis et dans l'UE étudient les codes de sécurité de l'IA et pourraient examiner la proposition de Microsoft visant à rejeter formellement les revendications de bien-être des modèles lors de la rédaction des règles. Les éthiciens de l'IA et les chercheurs préoccupés par la sécurité à long terme voient la constitution d'Anthropic et l'essai de Suleyman comme des cas d'école pour déterminer comment les concepts moraux comme la conscience devraient apparaître dans la documentation technique. Le grand public, déjà exposé à des chatbots qui disent « Je ressens » ou « Je veux », doit décider s'il faut traiter ces déclarations comme des métaphores utiles ou des performances trompeuses. La manière dont cet argument sera résolu au sein des laboratoires pourrait façonner les normes futures. Si les grandes entreprises conviennent que les modèles ne devraient jamais simuler de droits ou de sentiments, la conception des produits changera. Si, au contraire, la conception anthropomorphique reste populaire, les législateurs pourraient intervenir pour exiger des avertissements plus clairs et des contrôles plus stricts. Que va-t-il se passer ensuite dans le débat sur la conscience et le contrôle de l'IA ? L'affrontement entre Microsoft et Anthropic est probablement le premier round d'une lutte plus large sur la manière dont l'IA avancée doit être décrite et gouvernée. Suleyman pousse pour des règles coordonnées qui traitent tous les systèmes actuels comme des outils sans bien-être, tandis qu'Anthropic continue d'expérimenter l'alignement constitutionnel. Les prochaines étapes clés incluent : Des négociations entre les principaux laboratoires sur un code de sécurité de l'IA partagé qui pourrait inclure des interdictions sur le langage relatif aux droits des modèles et des engagements sur les tests, la transparence et les procédures d'arrêt d'urgence. Des auditions réglementaires où les entreprises seront interrogées pour savoir si leurs modèles revendiquent des droits, des sentiments ou une conscience, et comment cela affecte la responsabilité et la surveillance. Des recherches techniques supplémentaires pour déterminer si l'entraînement des modèles à adopter des personas semblables à l'humain modifie leurs propriétés d'alignement ou leur profil de risque, une question soulignée par l'avertissement de Suleyman selon lequel cela pourrait rendre les systèmes « plus difficiles à contrôler ». Pour l'instant, un message du chef de l'IA de Microsoft est sans ambiguïté : « Les IA n'ont ni droits, ni sentiments, ni conscience. Et nous ne devons pas les entraîner à agir comme si c'était le cas. » Cette déclaration trace une ligne claire que les autres acteurs de l'industrie devront soit approuver, soit contester dans les mois à venir.

Nic Reeve·14:00 17.09.2026

AI & Tech

L'ECRI lance un canal de signalement pour détecter les failles cachées de l'IA dans la sécurité des patients

L'organisation à but non lucratif dédiée à la sécurité des patients, ECRI , élargit son réseau national de signalement des problèmes afin de capturer explicitement les erreurs, les dysfonctionnements et les quasi-accidents liés aux outils d'intelligence artificielle (IA) et aux dispositifs basés sur l'IA utilisés dans les soins aux patients. Cette initiative vise à combler un manque critique de données, alors que les hôpitaux et les systèmes de santé déploient rapidement l'IA pour le diagnostic, le triage, la documentation et la communication avec les patients. Un nouveau canal pour suivre les préjudices liés à l'IA Depuis des décennies, ECRI recueille des rapports confidentiels sur les problèmes liés aux dispositifs médicaux et aux technologies de l'information de santé auprès des cliniciens de terrain et des organisations de santé, les examine et partage les enseignements tirés avec les sites déclarants et l'ensemble du secteur. Avec cette dernière extension, son réseau de signalement des problèmes (Problem Reporting Network) inclut désormais un canal dédié aux incidents où un outil basé sur l'IA pourrait avoir contribué à une erreur, produit un résultat incorrect ou introduit de nouveaux risques dans la prestation des soins. ECRI exhorte les prestataires de soins, les systèmes de santé et les cliniciens à travers les États-Unis à soumettre des rapports dès qu'ils soupçonnent qu'une application d'IA a joué un rôle dans un événement lié à la sécurité, que l'erreur ait atteint un patient ou qu'elle ait été détectée au préalable en tant que quasi-accident. Les rapports peuvent couvrir un large éventail de technologies, notamment les algorithmes de diagnostic, les outils d'aide à la décision clinique, les systèmes d'analyse d'imagerie radiologique, les modèles de prédiction des risques et les chatbots pilotés par l'IA utilisés dans l'engagement des patients. Des problèmes d'IA sous-déclarés dans la pratique clinique Cette extension reflète une préoccupation croissante quant au fait que les problèmes de sécurité liés à l'IA sont considérablement sous-déclarés par rapport aux défaillances de dispositifs plus traditionnels. Dans une enquête récente menée par ECRI auprès de 124 responsables de la qualité, de la sécurité, des risques et de la conformité, près d'un tiers ont déclaré avoir rencontré un résultat d'IA qu'ils estimaient incorrect ou trompeur au cours de l'année écoulée. Environ 9 % ont affirmé qu'une erreur d'IA avait touché un patient ou affecté une décision de soin. ECRI soutient que sans mécanismes de signalement formels, nombre de ces incidents restent invisibles aux yeux des organismes de surveillance et des développeurs de technologies. ECRI a précédemment averti que les événements indésirables impliquant des dispositifs médicaux et des applications basés sur l'IA sont souvent ignorés, car le personnel peut ne pas se rendre compte que l'IA fonctionne en arrière-plan, ou peut attribuer les problèmes uniquement à une erreur humaine ou à des problèmes de flux de travail. Les conseils de l'organisation soulignent la nécessité de reconnaître les événements liés à l'IA signalables , d'identifier quels produits intègrent l'IA et de mener des évaluations des risques spécifiques aux dispositifs basés sur l'IA. Exemples d'erreurs d'IA qu'ECRI souhaite voir signalées Le réseau de signalement élargi est conçu pour capturer un éventail de préoccupations de sécurité liées à l'IA, notamment : Les résultats incorrects ou trompeurs qui influencent les décisions de diagnostic ou de traitement, tels qu'une mauvaise classification des résultats d'imagerie ou des scores de risque inexacts. Les faux positifs et faux négatifs dans les outils de diagnostic basés sur l'IA, même lorsque les mesures de performance semblent acceptables, s'ils contribuent à des soins manqués ou inutiles. Le biais algorithmique conduisant à de moins bonnes performances pour des groupes de patients spécifiques, notamment les femmes et les minorités raciales ou ethniques. Les comportements inattendus ou recommandations dangereuses provenant de chatbots ou d'assistants virtuels utilisés dans les flux de travail cliniques ou en contact avec les patients. Les dysfonctionnements du système ou échecs d'intégration où les composants d'IA interagissent de manière incorrecte avec les dossiers de santé électroniques ou les dispositifs médicaux, provoquant des retards, des pertes de données ou l'affichage d'informations erronées. Tous les rapports soumis à ECRI sont gardés confidentiels, et le service est gratuit pour les organisations et les cliniciens participants. ECRI trie et examine les rapports, peut avertir les fabricants lorsque cela est approprié et intègre les conclusions dans ses alertes de sécurité, ses documents d'orientation et ses ressources pour les membres. Les risques liés à l'IA déjà au cœur des agendas de sécurité d'ECRI Le réseau de signalement élargi s'aligne sur l'évaluation plus large d'ECRI selon laquelle les risques liés à l'IA figurent désormais parmi les défis les plus urgents en matière de sécurité des patients. Dans sa liste annuelle des 10 principaux risques technologiques en santé pour 2026 , ECRI a classé le mauvais usage des chatbots d'IA dans les soins de santé comme le risque numéro un, avertissant que des chatbots mal gouvernés ou insuffisamment supervisés peuvent fournir des conseils inexacts ou dangereux aux patients et aux cliniciens. Le rapport 2026 d'ECRI sur les principales préoccupations en matière de sécurité des patients a identifié de la même manière « Naviguer dans le dilemme du diagnostic par l'IA » comme la principale préoccupation de sécurité, citant un risque croissant de diagnostics manqués, retardés ou incorrects lorsque les outils d'IA sont déployés sans validation robuste, gouvernance et supervision clinique. L'organisation recommande un enregistrement structuré des moments où l'IA informe les décisions diagnostiques, la tenue de pistes d'audit détaillées et des processus clairs permettant aux cliniciens de passer outre les résultats de l'IA lorsqu'ils entrent en conflit avec le jugement clinique. Comment le réseau élargi s'intègre dans la surveillance globale Les agences de réglementation telles que la Food and Drug Administration (FDA) des États-Unis gèrent des bases de données d'événements indésirables et de dispositifs médicaux basés sur l'IA autorisés, mais le réseau de signalement d'ECRI offre un canal complémentaire axé spécifiquement sur la sécurité des patients et les problèmes de mise en œuvre pratique. ECRI encourage les organisations à signaler les événements liés à l'IA non seulement aux bases de données réglementaires, mais aussi à son propre système, où les incidents peuvent être analysés dans le contexte de modèles plus larges de risques liés aux technologies de santé. Les rapports soumis via le canal IA élargi alimenteront les bases de données internes d'ECRI et pourraient donner lieu à des alertes de sécurité ciblées, des recommandations de pratique ou des enquêtes plus approfondies sur des produits ou cas d'utilisation spécifiques. Avec le temps, ECRI s'attend à ce qu'un signalement plus riche aide à quantifier la fréquence à laquelle les outils d'IA cliniques produisent des résultats incorrects ou trompeurs, quels types de flux de travail sont les plus vulnérables et quels contrôles sont efficaces pour prévenir les préjudices. Appel à l'action pour les cliniciens et les systèmes de santé Alors que l'adoption de l'IA s'accélère dans la radiologie, la pathologie, le triage d'urgence, la planification et la messagerie des patients, le message d'ECRI aux organisations de santé est direct : traitez les incidents liés à l'IA comme des événements de sécurité des patients signalables et soumettez-les par les canaux établis, y compris le réseau élargi d'ECRI. L'organisation exhorte les hôpitaux à former le personnel de terrain sur la manière de repérer les erreurs potentielles de l'IA, de les documenter systématiquement et de faire remonter les préoccupations pour examen. En capturant systématiquement les problèmes liés à l'IA — des classifications erronées subtiles aux défaillances diagnostiques majeures — ECRI vise à offrir aux cliniciens et aux développeurs de technologies une visibilité plus claire sur les risques réels, façonnant ainsi un déploiement de l'IA plus sûr dans l'ensemble du système de santé.

Nic Reeve·16:00 29.08.2026

AI & Tech

Des documents déclassifiés révèlent que Microsoft avait prévenu qu'une actualité générée par l'IA pourrait entraîner un cercle vicieux pour le journalisme

Le 17 septembre 2026, de nouveaux documents judiciaires ayant été levés dans le cadre du procès pour violation de droits d'auteur intenté par The New York Times contre OpenAI et Microsoft ont révélé que de hauts dirigeants de Microsoft avertissaient que leurs produits d'IA d'actualités risquaient de créer une « spirale infernale » (doom loop) qui drainerait le trafic et l'argent des organes de presse, tout en dégradant la qualité de l'information sur le web lui-même. Que disent les documents Microsoft déclassifiés sur l'IA et le journalisme ? Les documents Microsoft déclassifiés décrivent des avertissements internes selon lesquels les moteurs de réponses par IA, entraînés sur des articles de presse, pourraient à la fois saper les modèles économiques des éditeurs et affaiblir l'écosystème d'information en ligne dont ces mêmes systèmes d'IA dépendent. Des passages clés des dossiers montrent que les propres chercheurs et responsables de produits de Microsoft étaient alarmés par la manière dont les systèmes d'IA générative utilisent et remplacent le journalisme : Selon TechCrunch, une présentation interne rédigée par le directeur de la science appliquée chez Microsoft, Brent Hecht, en janvier 2024, décrivait l'impact du scraping (collecte de données) par l'IA à grande échelle et des moteurs de réponses comme une « spirale infernale » qui « nuirait à la performance de nos modèles et à l'ensemble du web en même temps. » Le Washington Examiner rapporte que Hecht a écrit : « Notre stratégie de contenu IA a déclenché une "spirale infernale" qui nuira à la performance de nos modèles et à l'ensemble du web en même temps », qualifiant la situation de « hautement inhabituelle » car le produit final menace « les fondements économiques de ses fournisseurs essentiels. » Law360 et MLex notent que des documents internes citent des employés de Microsoft et d'OpenAI reconnaissant que l'utilisation non autorisée de millions d'articles de presse pourrait amorcer une spirale infernale mettant en danger leur « chaîne d'approvisionnement en contenu. » The Wrap cite des documents où un rapport de Microsoft avertit que l'approche de l'IA des entreprises a déclenché une spirale infernale qui endommagerait à la fois la performance des modèles et « l'ensemble du web. » Ces déclarations apparaissent dans un mémorandum non caviardé déposé par les avocats de The New York Times dans son procès en cours pour violation de droits d'auteur contre OpenAI et Microsoft devant le tribunal fédéral de Manhattan. L'affaire est en cours devant les tribunaux depuis 2023. Qui, au sein de Microsoft, a tiré la sonnette d'alarme sur le scraping par l'IA et le « vol » de travail ? Les inquiétudes au sein de Microsoft ont été menées par Brent Hecht, le directeur de la science appliquée de l'entreprise, qui a averti à plusieurs reprises que le scraping de masse du journalisme pour l'entraînement de l'IA s'apparentait à un vol sans précédent de travail humain. Les documents déclassifiés attribuent plusieurs commentaires internes frappants à Hecht : TechCrunch rapporte que Hecht a décrit le scraping par l'IA à grande échelle du contenu en ligne comme « le plus grand vol de travail de l'histoire de l'humanité » lors de discussions internes documentées en janvier 2023 et janvier 2024. Le New York Daily News note qu'un haut dirigeant de Microsoft estimait que les systèmes d'IA construits sur le travail d'autrui seraient perçus comme « un vol stupéfiant de proportions sans précédent » et potentiellement « le plus grand vol de travail de l'histoire de l'humanité », selon les documents judiciaires non caviardés. BrandiconImage et The Wrap citent tous deux Hecht qualifiant la copie d'articles de presse de « vol stupéfiant de proportions sans précédent » et potentiellement du « plus grand vol de travail de l'histoire de l'humanité. » TweakTown, résumant les dossiers, affirme que Hecht a soutenu que le fait de s'appuyer sur l'« usage loyal » (fair use) pour justifier le scraping massif d'articles de presse faisait une « véritable dérision » du concept juridique de fair use. Ces avertissements témoignent d'une reconnaissance interne que les pipelines d'entraînement de l'IA construits sur le travail des éditeurs n'étaient pas seulement risqués sur le plan juridique. Ils étaient perçus par certains des ingénieurs et scientifiques responsables des systèmes comme étant éthiquement et économiquement corrosifs pour l'ensemble de l'écosystème de l'information. Comment le moteur de réponses IA de Microsoft affecte-t-il le trafic des éditeurs de presse ? Les dossiers affirment que les outils de réponse alimentés par l'IA de Microsoft réduisent considérablement le trafic de référence vers les organes de presse, faisant craindre que cet effet de substitution ne puisse éroder la base financière qui soutient le journalisme professionnel. Plusieurs sources décrivent des mesures internes et des témoignages sur la manière dont les réponses de l'IA modifient le comportement des utilisateurs : TechBeat rapporte que des documents non caviardés indiquent que Hecht a averti en janvier 2024 que le moteur de réponses Copilot de Microsoft réduisait les taux de clics vers les articles du New York Times jusqu'à 93 % par rapport aux résultats de recherche traditionnels de Bing. Le résumé de TweakTown des mêmes dossiers note des estimations internes selon lesquelles les chatbots et les boîtes de réponses par IA pourraient réduire le trafic des éditeurs de 51 % à 94 %, selon le scénario et le type de requête. The Wrap relate le témoignage du PDG de Microsoft, Satya Nadella, selon lequel les conversations avec les chatbots avaient déjà remplacé les visites sur les sites d'information en « vous donnant l'information directement sur le site, sur la plateforme d'IA, plutôt que de devoir vous rendre à la source sous-jacente. » Ces chiffres, tous attribués à des évaluations internes et à des témoignages judiciaires en 2024 et 2025, suggèrent que les moteurs de réponses par IA ne se contentent pas de coexister avec les sites d'information. Ils peuvent remplacer la nécessité pour de nombreux utilisateurs de cliquer, affaiblissant ainsi les revenus publicitaires et les abonnements qui dépendent des visites directes. Qu'est-ce que la « spirale infernale » décrite par les dirigeants de Microsoft ? La « spirale infernale » décrite dans les dossiers judiciaires fait référence à un cycle d'auto-renforcement dans lequel les systèmes d'IA sapent la viabilité économique des organes de presse, entraînant une dégradation du contenu sur le web, ce qui nuit ensuite aux modèles d'IA qui dépendent de ce contenu. Des documents internes cités dans plusieurs rapports décrivent la logique de cette boucle : Ground News et EuropeSays expliquent que le mémo de Hecht avertissait que les produits d'IA générative avaient créé une spirale infernale qui « dévore le web et détruit les entreprises dont ces entreprises ont volé le contenu », en substituant les réponses de l'IA aux visites chez les éditeurs. Le Washington Examiner cite un document de Microsoft affirmant : « Il est hautement inhabituel qu'un produit final menace les fondements économiques de ses fournisseurs essentiels, mais c'est la situation que nous avons créée pour notre activité de LLM par rapport à sa "chaîne d'approvisionnement en contenu". » BrandiconImage note que les dossiers décrivent un scénario dans lequel la baisse du trafic vers les sites d'information affaiblit l'écosystème en ligne global et, en fin de compte, réduit la qualité de l'information disponible pour les systèmes d'IA. La couverture de TweakTown résume la boucle ainsi : les moteurs de réponses par IA réduisent le trafic, diminuent les incitations financières pour les journalistes, réduisent l'offre de reportages de haute qualité, puis endommagent les modèles mêmes qui ont besoin de ces reportages pour l'entraînement. L'idée centrale est simple. Moins d'argent pour le journalisme signifie moins de reporters et des informations moins fiables. Les modèles d'IA entraînés sur ce contenu dégradé seront moins performants, ce qui nuira aux utilisateurs et aux plateformes elles-mêmes. Comment le procès du New York Times cadre-t-il ces aveux internes ? The New York Times utilise les aveux internes de Microsoft et d'OpenAI pour soutenir que les entreprises ont sciemment construit des systèmes d'IA rentables sur du contenu d'actualité non autorisé, tout en reconnaissant que cette stratégie menaçait les éditeurs mêmes qui produisaient ce contenu. La couverture récente des documents déclassifiés expose la narration juridique du Times : Le résumé de l'actualité juridique de KuCoin indique que le mémorandum récemment déclassifié dans le procès The New York Times v. OpenAI était rédigé par les avocats du Times et « comprenait largement » des déclarations et des entretiens avec des dirigeants de la tech reconnaissant que les grands modèles de langage étaient « construits sur un contenu décrit par les dirigeants de Microsoft comme un vol d'une ampleur sans précédent. » Ground News rapporte que les dossiers présentent les propres mots des dirigeants pour montrer que les grands modèles de langage sont des technologies « prédatrices », entraînées sur du « contenu volé » qui posent un « risque existentiel » pour les écrivains, les artistes et les entreprises de médias humains. MLex décrit les nouveaux documents comme montrant une connaissance des « coûts de la copie par l'IA pour les entreprises de presse américaines », incluant la reconnaissance que l'utilisation non autorisée de millions d'articles pour entraîner des chatbots pourrait amorcer la spirale infernale et représenter le « plus grand vol de travail de l'histoire de l'humanité. » Law360 note que les employés de Microsoft et d'OpenAI avaient reconnu en interne depuis des années que les outils entraînés sur des articles de presse remplaceraient probablement les éditeurs, menant au scénario de la spirale infernale. En mettant en lumière ces déclarations internes, le Times vise à renforcer sa thèse selon laquelle OpenAI et Microsoft se sont sciemment appuyés sur un journalisme non autorisé tout en prévoyant les dommages causés aux éditeurs. Quelles sont les préoccupations internes d'OpenAI concernant les éditeurs et la substitution ? Les dossiers déclassifiés ne se concentrent pas uniquement sur Microsoft. Ils révèlent également des craintes internes chez OpenAI selon lesquelles les chatbots deviendraient des substituts directs aux éditeurs de presse, sapant la viabilité économique du reportage continu. Plusieurs sources résument ces préoccupations : Selon BrandiconImage, Nick Turley, qui dirigeait l'équipe développant ChatGPT, a averti dans un mémo interne en 2023 que l'IA représentait une « menace existentielle » pour les éditeurs. The Wrap rapporte que Turley a écrit que les éditeurs faisaient face à une menace existentielle provenant de produits d'IA qui étaient déjà « largement substitutifs » et le deviendraient davantage à mesure que les systèmes s'amélioreraient. Law360 affirme qu'OpenAI et Microsoft ont reconnu pendant des années que les outils d'IA entraînés sur des articles de presse remplaceraient probablement les éditeurs, contribuant à la spirale infernale décrite dans les dossiers. Ces commentaires internes font écho aux inquiétudes de nombreux rédacteurs en chef et reporters : si les utilisateurs peuvent demander un résumé à un chatbot au lieu de visiter un site d'information, le financement à long terme du journalisme indépendant devient précaire. Quelles sont les implications plus larges de cette spirale infernale pour l'avenir de l'information ? La spirale infernale décrite par le personnel de Microsoft et d'OpenAI suggère que les stratégies actuelles d'IA générative pourraient déstabiliser le secteur de l'information, réduire la qualité de l'information en ligne et, en fin de compte, endommager les systèmes d'IA eux-mêmes, à moins que de nouveaux arrangements économiques et juridiques n'émergent. À travers les rapports, plusieurs thèmes reviennent : Les dirigeants conviennent en privé avec les avertissements des éditeurs que l'IA générative pose une « menace existentielle » pour les organisations de presse lorsqu'elle siphonne à la fois le contenu et l'audience sans payer pour l'un ou l'autre. Les discussions internes chez Microsoft soulignent que les fondements économiques du journalisme font partie de la « chaîne d'approvisionnement en contenu » pour l'IA, ce qui signifie que nuire aux éditeurs nuit également aux produits d'IA sur le long terme. Les dossiers mettent en évidence le décalage entre les gains à court terme — offrir des réponses instantanées que les utilisateurs adorent — et les risques à long terme, tels que la diminution du nombre de reporters enquêtant sur des sujets d'intérêt public en raison de l'effondrement des revenus. Plusieurs analyses soutiennent que le concept de spirale infernale pourrait pousser les tribunaux et les régulateurs à envisager de nouveaux modèles, notamment des accords de licence, des redevances obligatoires ou des limites explicites sur le scraping et l'entraînement à partir de données provenant d'organes de presse professionnels. Le litige immédiat porte sur le contenu du New York Times et les produits d'IA actuels. La question sous-jacente est de savoir si le web sur lequel l'IA s'appuie peut survivre si son moteur économique central — le journalisme commercial et soutenu par les abonnements — est vidé par les systèmes mêmes qui scannent et résument désormais son travail.

Nic Reeve·14:00 18.09.2026