Les chercheurs en IA s'orientent vers l'inférence vérifiable et le raisonnement auditable des modèles

Anthropic a déclaré le 2 novembre 2026 avoir fait progresser la vérification cryptographique pour l'inférence des grands modèles de langage, présentant un système capable de générer des preuves pour un modèle de type "mixture-of-experts" (mélange d'experts) de 400 milliards de paramètres. Ce travail vise à permettre aux utilisateurs de confirmer qu'une réponse provient bien du modèle convenu et qu'elle n'a pas été altérée pendant le calcul.
- Anthropic a rapporté environ 110 tokens par seconde sur un seul GPU H100 pour Llama 4 Maverick dans une configuration 4-bit.
- L'entreprise a précisé que chaque requête de 1 024 tokens produisait une preuve d'environ 19 mégaoctets.
- PRIME a rapporté zéro conclusion injustifiée sur 480 tâches basées sur des registres publics, contre 26,7 % pour un agent non structuré.
Qu'a démontré Anthropic ?
Anthropic a décrit FlashProve, un système construit autour des arguments de connaissance succincts non interactifs à divulgation nulle de connaissance, ou zkSNARKs. Cette approche permet à un fournisseur de s'engager sur le comportement du modèle tout en gardant les détails de celui-ci cachés au vérificateur. La mise à jour de recherche d'Anthropic du 2 novembre fait suite à un changement de terminologie le 19 octobre, date à laquelle Anthropic a commencé à utiliser « vérification d'inférence » au lieu d'« inférence prouvable ».
Anthropic a précisé que le test utilisait Llama 4 Maverick, un modèle MoE de 400 milliards de paramètres, plutôt qu'un petit modèle de recherche. La configuration rapportée utilisait un seul GPU H100, des poids quantifiés en 4-bit et une arithmétique entière pendant le prefill. L'entreprise a mesuré la génération de preuves à environ 110 tokens par seconde, avec des fichiers de preuve proches de 19 Mo pour 1 024 tokens générés. Ces chiffres proviennent du rapport technique d'Anthropic et non d'un benchmark indépendant.
- Modèle : Llama 4 Maverick, décrit par Anthropic comme un modèle MoE de 400 milliards de paramètres.
- Matériel : un GPU Nvidia H100.
- Sortie de preuve : environ 19 Mo par requête de 1 024 tokens.
La question pratique est celle du coût. Une preuve doit être générée, transmise et vérifiée en même temps que la réponse. Les chiffres d'Anthropic montrent que la tâche ne se limite plus à des systèmes de démonstration, mais ils n'établissent pas que la génération de preuves est suffisamment peu coûteuse pour chaque requête de consommateur ou pour un service à haut volume.
Pourquoi les preuves cryptographiques sont-elles utiles pour les modèles de langage ?
La sortie ordinaire d'un modèle fournit peu de preuves sur la manière dont une réponse a été produite. Un utilisateur peut connaître le nom du fournisseur, l'étiquette du modèle et la version du logiciel, tout en manquant d'un moyen fiable de vérifier que la réponse provient bien du modèle promis. Une preuve cryptographique pourrait lier la sortie à un calcul certifié.
Anthropic a déclaré que les zkSNARKs sont adaptés à cette tâche car ils peuvent fournir une vérification sans révéler les poids privés du modèle. Cette séparation est cruciale pour les systèmes commerciaux. Un fournisseur pourrait protéger son modèle tout en permettant à un client, un auditeur ou un régulateur de tester si le calcul revendiqué a bien eu lieu.
La vérification ne rend pas une réponse vraie.
Une preuve peut établir qu'un modèle particulier a produit un flux de tokens spécifique sous des conditions déterminées. Elle ne peut pas, à elle seule, établir que la réponse factuelle du modèle est correcte, que ses données d'entraînement étaient fiables ou que la requête était inoffensive. Ces questions nécessitent des vérifications distinctes, telles que la récupération d'informations (retrieval), des solveurs formels ou une révision humaine.
Cette distinction sépare l'intégrité de l'exécution de la qualité de la réponse. Cette distinction est au cœur des dernières recherches. Le travail cryptographique vise à savoir si le calcul promis a eu lieu. D'autres systèmes visent à savoir si le raisonnement soutient la conclusion.
Comment les chercheurs vérifient-ils le raisonnement lui-même ?
Plusieurs études d'octobre 2026 ont abordé la vérification au niveau de la sortie et du raisonnement plutôt qu'au niveau de la couche d'exécution cryptographique. PRIME, présenté dans un article soumis le 15 octobre, impose à un agent de s'engager sur des routes de preuves avant d'évaluer des registres publics. Un programme distinct enregistre les vérifications et bloque les conclusions que ces vérifications ne justifient pas.
Les auteurs de PRIME ont testé 480 tâches basées sur des registres publics. Ils ont rapporté qu'un agent conventionnel produisait une conclusion injustifiée sur 26,7 % des tâches, tandis que PRIME n'en a produit aucune. Le système a également augmenté le score moyen des conclusions justifiées, passant de 30,1 (avec le simple refus) à 59,2 après l'ajout de directives et de vérifications.
- PRIME : s'engage sur des règles et des routes de preuves avant de tirer des conclusions.
- Jeu de test : 480 tâches basées sur des registres publics.
- Taux d'erreur rapporté : 26,7 % pour l'agent de comparaison et zéro pour PRIME.
VERGE a suivi une voie différente. L'article publié en octobre dans les EMNLP Findings décompose les réponses en affirmations atomiques, traduit ces affirmations en logique du premier ordre et les envoie à des prouveurs de théorèmes automatisés ou à d'autres contrôles. Les auteurs ont rapporté une amélioration moyenne de performance de 18,7 % lors de la convergence avec GPT-OSS-120B, par rapport aux réponses en un seul passage sur leurs benchmarks de raisonnement.
Ces systèmes restreignent le champ de l'affirmation. Ils ne prouvent pas chaque partie d'une réponse ouverte. Ils vérifient des propositions sélectionnées selon des règles explicites.
Quel rôle joue l'auto-vérification ?
RISE, publié dans les actes de NeurIPS 2026 le 8 octobre, entraîne un modèle à résoudre des problèmes et à évaluer ses propres solutions dans le même processus d'apprentissage par renforcement. La méthode utilise des récompenses vérifiables provenant d'un vérificateur de résultats, appliquant le feedback à la fois à la génération de la solution et à l'auto-vérification.
Les chercheurs ont rapporté des gains sur les benchmarks de raisonnement mathématique et un comportement d'auto-vérification plus fréquent et plus précis. La conception répond à une faiblesse connue : un modèle peut produire une critique confiante sans détecter l'erreur centrale de sa propre réponse.
L'auto-vérification reste moins robuste qu'une preuve externe lorsque le vérificateur partage les angles morts du modèle. Une réponse mathématique peut être testée par rapport à un résultat exact. Une réponse juridique, scientifique ou politique peut nécessiter une sélection de preuves, une interprétation et un jugement. Entraîner le modèle à inspecter son travail aide, mais cela ne supprime pas le besoin d'une validation indépendante.
Cette limitation explique pourquoi les systèmes actuels combinent les méthodes. Les preuves d'inférence cryptographiques peuvent authentifier l'exécution. Les outils symboliques peuvent tester des affirmations formelles. Les registres de preuves peuvent contrôler ce qu'un agent est autorisé à conclure. Aucun ne couvre à lui seul l'ensemble du problème de la fiabilité.
Quelle est la suite pour l'inférence prouvable ?
Le prochain test est le déploiement, et non une démonstration plus vaste. Le débit et la taille des preuves rapportés par Anthropic constituent un point de départ, mais l'utilisation en production dépendra de la vitesse de vérification, des exigences de mémoire, du coût du matériel et de la manière dont les preuves se comportent lorsque des requêtes, des outils et des contextes longs sont ajoutés.
Les équipes de recherche ont également besoin de comparaisons plus claires. Une preuve cryptographique doit être évaluée par rapport à un modèle de menace défini. Un vérificateur de raisonnement doit indiquer quelles affirmations il peut vérifier, quelles preuves il accepte et ce qui se passe lorsque des preuves manquent. Les gains de benchmark ne suffisent pas à démontrer qu'un système est sûr dans un environnement à enjeux élevés.
- Ingénierie : réduire la surcharge de génération de preuves et la taille des preuves pour les réponses longues.
- Évaluation : tester les modèles face à des requêtes adverses, des outils changeants et des preuves incomplètes.
- Gouvernance : définir ce qu'une preuve certifie et ce qui reste hors de son champ d'application.
La direction émergente est celle de l'assurance multicouche. Les fournisseurs peuvent prouver quel modèle a été exécuté, les agents peuvent enregistrer quelle preuve a justifié une action et des programmes externes peuvent vérifier des affirmations formelles. Ensemble, ces mécanismes pourraient rendre les services de modèles de langage plus auditables sans exposer les poids propriétaires. La technologie passe d'une promesse abstraite à des systèmes mesurables, mais la vérification de bout en bout et de routine reste à parfaire.


