RéponsesPublié24 sources
Claude a prouvé l’absence de crash pour 239 cibles de test — avec des limites importantes
Anthropic et Theorem rapportent que Claude a produit des preuves vérifiées par machine pour 239 points d’entrée de test répartis dans 123 bibliothèques open source. Les preuves concernent des programmes compilés pour RISC V et des entrées de moins de 64 Mo, dans un environnement Linux modélisé.
Publié parModifié avec GPT-6 LunaImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- Anthropic et Theorem rapportent que Claude a produit des preuves vérifiées par machine pour 239 points d’entrée de test répartis dans 123 bibliothèques open source.
- Les preuves concernent des programmes compilés pour RISC V et des entrées de moins de 64 Mo, dans un environnement Linux modélisé.
- Le résultat porte sur des propriétés précises et des exécutables définis : il ne garantit pas que les bibliothèques sont entièrement exemptes de bugs.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Anthropic’s Frontier Red Team and formal-methods partner Theorem report in their October 22, 2026 research about Claude’s assembly-. Article summary: Anthropic’s Frontier Red Team and Theorem reported that Claude produced machine-checked, assembly-level crash-freedom proofs for 239 fuzz-test entry points across 123 open-source libraries—not that the libraries were uni. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
Anthropic et son partenaire en méthodes formelles, Theorem, rapportent que Claude a généré des preuves vérifiées par machine pour 239 points d’entrée de tests de fuzzing, répartis dans 123 bibliothèques open source. Ces preuves portent sur des propriétés précises liées aux plantages et à la sécurité mémoire de programmes compilés pour RISC-V, dans des conditions définies. Elles ne démontrent pas que les bibliothèques sont sans bug dans tous les contextes. 9
5
L’ampleur annoncée est notable : selon l’équipe, le travail a pris quelques semaines et produit environ 180 millions de lignes de preuves en Rocq. L’enjeu est de rendre la vérification formelle applicable à davantage de logiciels réels grâce à l’IA, tout en limitant les conclusions à ce qui a effectivement été spécifié et vérifié. 3
13
Ce que les preuves établissent
Anthropic affirme que les preuves montrent que les programmes concernés terminent normalement, sans erreur de sécurité mémoire ni assertion échouée, pour toute entrée de moins de 64 Mo et pour les réponses du système d’exploitation Linux et les dispositions mémoire prises en compte par le modèle — sous réserve des hypothèses énoncées. Les cibles vérifiées sont des exécutables compilés pour RISC-V : il ne s’agit pas d’une garantie générale couvrant toutes les versions ou tous les déploiements de chaque bibliothèque. 9
12
La méthode réutilise des points d’entrée existants du projet Google OSS-Fuzz, un programme de tests de fuzzing pour les logiciels open source, comme spécifications formelles. Plutôt que de se contenter d’essayer de nombreux exemples, Claude a produit des preuves sur le comportement de chaque binaire spécifié pour l’ensemble des entrées couvertes par le théorème. 3
13
Anthropic présente le projet comme une première tentative de grande ampleur visant à utiliser l’IA pour vérifier formellement des logiciels de production au niveau assembleur. Il s’agit de la caractérisation de l’équipe quant à la nouveauté du projet, et non d’un consensus historique établi de manière indépendante. 7
13
Pourquoi le vérificateur Rocq compte
Claude a généré les preuves, puis le noyau de preuve Rocq les a vérifiées. Un développeur n’a donc pas à se fier au raisonnement de Claude ni à examiner manuellement chaque ligne pour que la preuve soit contrôlée mécaniquement. Cela ne supprime toutefois pas toutes les hypothèses : le théorème doit exprimer la propriété qui importe aux développeurs, et les modèles formels comme le vérificateur font partie des fondements auxquels il faut se fier. 9
5
Anthropic et d’autres comptes font état d’environ 180 millions de lignes de preuves Rocq, soit quelque 600 000 lignes par binaire en moyenne. Cette masse illustre l’ampleur du travail ; le nombre de lignes, à lui seul, ne dit pas dans quelle mesure une propriété s’applique ni si elle répond aux besoins d’un projet en production. 3
12
Ce que les tests peuvent manquer
Le fuzzing explore de nombreuses entrées, mais ne prouve pas à lui seul le comportement du programme pour chaque entrée possible dans un domaine défini. Selon les comptes rendus du projet, Claude a découvert et corrigé des centaines de bugs, dont certains avaient échappé à des milliers de milliards d’exécutions de fuzzing. Ces chiffres sont rapportés à propos de ce projet ; ils ne constituent pas une mesure indépendante de la fréquence à laquelle la vérification formelle surpasserait les tests dans d’autres projets. 2
11
La leçon pratique n’est pas d’abandonner les tests. Les preuves formelles apportent un autre type d’élément : pour une propriété et un périmètre précis, elles peuvent établir le comportement pour toutes les entrées correspondant à la spécification, et pas seulement pour les cas effectivement testés. 9
2
Pourquoi « vérifié » ne veut pas dire « sans bug »
Les garanties concernent des points d’entrée sélectionnés et des exécutables compilés particuliers. Elles ne s’étendent pas automatiquement à toutes les fonctions d’une bibliothèque, à toutes ses configurations de compilation, à d’autres architectures ou à tous ses usages. 9
5
Les conditions de l’expérience comptent aussi. Les comptes rendus décrivent des preuves portant sur des binaires RISC-V statiques et monothreadés, exécutés dans un environnement Linux modélisé et avec une mémoire disponible limitée. Or, la plupart des logiciels sont utilisés dans d’autres configurations ou sur d’autres architectures : le résultat ne doit donc pas être interprété comme une garantie pour ces déploiements. 12
27
34
Enfin, une preuve établit le théorème qui a été formulé — pas toutes les propriétés qu’un développeur pourrait souhaiter. Des bugs peuvent subsister hors du périmètre de la preuve, ou dans les modèles formels et les fondements du vérificateur dont dépend le résultat. 5
31
Ce que les développeurs peuvent en retenir
La contribution centrale du projet est de montrer que l’assistance de l’IA pourrait rendre la vérification formelle au niveau assembleur praticable sur davantage de logiciels réels qu’auparavant, sans mobiliser autant de travail spécialisé. Cela ne fournit ni estimation universelle des coûts ni garantie de réussite pour une base de code donnée. 7
13
Une partie des preuves est accessible au public. Un compte rendu décrit cette publication comme couvrant 25 bibliothèques et 60 points d’entrée, et non l’ensemble du projet annoncé. Theorem a également lancé OSS Verify, un programme destiné aux mainteneurs de logiciels open source. 32
16
38
Pour les développeurs, le bon réflexe est de considérer chaque preuve comme une assurance délimitée : vérifier le point d’entrée, l’exécutable, les hypothèses et la propriété concernés avant de s’y fier. Ces résultats justifient d’évaluer la vérification formelle assistée par un grand modèle de langage en complément des tests — pas de cesser de tester ni de présumer qu’un logiciel est exempt de bugs. 9
5
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « Claude a prouvé l’absence de crash pour 239 cibles de test — avec des limites importantes » ?
Anthropic et Theorem rapportent que Claude a produit des preuves vérifiées par machine pour 239 points d’entrée de test répartis dans 123 bibliothèques open source.
Quels sont les points clés à valider en premier ?
Anthropic et Theorem rapportent que Claude a produit des preuves vérifiées par machine pour 239 points d’entrée de test répartis dans 123 bibliothèques open source. Les preuves concernent des programmes compilés pour RISC V et des entrées de moins de 64 Mo, dans un environnement Linux modélisé.
Que dois-je faire ensuite en pratique ?
Le résultat porte sur des propriétés précises et des exécutables définis : il ne garantit pas que les bibliothèques sont entièrement exemptes de bugs.
Sources
anthropic.comLLMs are making formal software verification feasible at ... - Anthropic
hyper.aiAnthropic Says Claude Generated Assembly-Level Formal ...
aicoder.comAnthropic Frontier Red Team: Claude, working with Theorem ...
devops.comClaude Writes 180 Million Lines of Proofs to Verify 123 Open Source Libraries