AnswersPublished24 sources
Claude beviste crash-frihed for 239 fuzzingmål – men ikke at softwaren er fejlfri
Anthropic og Theorem oplyser, at Claude beviste crash frihed for 239 testindgange i 123 open source biblioteker – for input under 64 MB i en modelleret RISC V og Linux opsætning. Arbejdet tog ifølge holdet få uger og resulterede i omkring 180 millioner linjer Rocq beviser, som blev kontrolleret af Rocqs beviskerne.
Udgivet afRedigeret med GPT-6 LunaBilleder genereret med GPT Image 2
Research answer
Key takeaways
- Anthropic og Theorem oplyser, at Claude beviste crash frihed for 239 testindgange i 123 open source biblioteker – for input under 64 MB i en modelleret RISC V og Linux opsætning.
- Arbejdet tog ifølge holdet få uger og resulterede i omkring 180 millioner linjer Rocq beviser, som blev kontrolleret af Rocqs beviskerne.
- Beviserne gælder bestemte kompilerede programmer og egenskaber. De er ikke en garanti for, at bibliotekerne er fri for alle fejl eller sikre i enhver version og opsætning.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Anthropic’s Frontier Red Team and formal-methods partner Theorem report in their October 22, 2026 research about Claude’s assembly-. Article summary: Anthropic’s Frontier Red Team and Theorem reported that Claude produced machine-checked, assembly-level crash-freedom proofs for 239 fuzz-test entry points across 123 open-source libraries—not that the libraries were uni. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
Anthropics Frontier Red Team og formalmetodefirmaet Theorem siger, at Claude har lavet maskintjekkede beviser for 239 testindgange i 123 open source-biblioteker. Beviserne dækker bestemte egenskaber om nedbrud og hukommelsessikkerhed i kompilerede RISC-V-programmer under fastlagte betingelser. De viser ikke, at bibliotekerne som helhed er fri for fejl. 9
5
Arbejdet er bemærkelsesværdigt i omfang: Holdet oplyser, at det tog få uger og omfattede omkring 180 millioner linjer Rocq-beviskode. Den større pointe er, at AI måske kan gøre formel verifikation anvendelig på mere rigtig software – så længe konklusionerne holdes inden for det, der faktisk er specificeret og kontrolleret. 3
13
Hvad beviserne viser
Anthropic siger, at de undersøgte programmer afsluttes normalt uden hukommelsessikkerhedsfejl eller fejlslagne påstande for alle input på under 64 MB, når de afvikles med de modellerede Linux-svar og hukommelsesopsætninger. Beviserne gælder kompilerede RISC-V-programmer, ikke enhver version eller anvendelse af de enkelte biblioteker. 9
12
Holdet tog udgangspunkt i testindgange fra Googles OSS-Fuzz-projekt og brugte dem som formelle specifikationer. Fuzzing afprøver et program med mange forskellige input; et formelt bevis kan derimod vise, at en bestemt egenskab gælder for alle input inden for det område, som beviset omfatter. 3
13
Anthropic beskriver projektet som det første storstilede forsøg på at bruge AI til formel verifikation af produktionssoftware på assemblyniveau. Det er holdets karakteristik af projektets nyhed, ikke en historisk vurdering, som alle uafhængige kilder nødvendigvis deler. 7
13
Rocq kontrollerer beviserne
Claude genererede beviserne, mens Rocqs beviskerne kontrollerede dem. Det betyder, at udviklere ikke behøver at stole på Claudes ræsonnement eller gennemgå hver linje manuelt for at få beviset mekanisk kontrolleret. Men kontrollen fjerner ikke alle forbehold: Beviset skal handle om den egenskab, udviklerne faktisk har brug for, og de formelle modeller og selve kontrolværktøjet indgår stadig i grundlaget, man må stole på. 9
5
Anthropic og andre omtaler den samlede mængde som cirka 180 millioner linjer Rocq-beviser – omtrent 600.000 linjer pr. program i gennemsnit. Det viser størrelsen på arbejdet, men antallet af linjer fortæller ikke i sig selv, hvor bredt en egenskab gælder, eller om den svarer til et projekts behov i produktion. 3
12
Hvad test kan overse
Fuzzing afprøver mange input, men beviser ikke i sig selv, hvad der sker med hvert eneste input i et bestemt område. Omtaler af projektet siger, at Claude fandt og rettede hundredvis af fejl, herunder problemer, der var undsluppet billioner af fuzzingkørsler. Det er rapporterede tal for dette arbejde – ikke en uafhængig måling af, hvor ofte formel verifikation vil overgå test i andre projekter. 2
11
Det betyder ikke, at test bør droppes. Formelle beviser kan give en anden type sikkerhed: Inden for den angivne specifikation kan de fastslå, hvad programmet gør på tværs af alle relevante input, frem for kun de tilfælde, en test har afprøvet. 9
2
Hvorfor “verificeret” ikke betyder “fejlfri”
Garantierne gælder udvalgte testindgange og bestemte kompilerede programmer. De dækker ikke automatisk alle funktioner i et bibliotek, alle byggeindstillinger, andre processortyper eller enhver måde at bruge softwaren på. 9
5
Betingelserne er også afgørende. Omtaler af arbejdet beskriver beviserne som gældende for statiske, enkelttrådede RISC-V-programmer, der kører i et modelleret Linux-miljø med et fast hukommelsesbudget. Mange anvendelser bygger på andre processortyper eller opsætninger, så resultaterne bør ikke læses som en garanti for de versioner. 12
27
34
Endelig beviser en formel verifikation den sætning, der er skrevet – ikke alle de egenskaber, en udvikler måtte ønske. Fejl kan ligge uden for bevisets rammer eller i de modeller og kontrolmekanismer, som beviset bygger på. 5
31
Hvad udviklere kan tage med sig
Projektets vigtigste bidrag er et tegn på, at AI-assistance måske kan gøre formel verifikation af kompileret software praktisk i større skala end før, uden samme omfattende ekspertindsats. Det er ikke en universel prisberegning eller en garanti for, at metoden virker på enhver kodebase. 7
13
En del af beviserne er offentliggjort. En omtale beskriver det offentlige udvalg som 25 biblioteker og 60 testindgange – altså kun en del af det samlede rapporterede arbejde. Theorem har også annonceret OSS Verify, et program rettet mod vedligeholdere af open source-software. 32
16
38
For udviklere er den praktiske læring at behandle et bevis som en afgrænset sikkerhedsgaranti: Se på den præcise testindgang, det kompilerede program, antagelserne og den egenskab, der er bevist. Resultaterne gør AI-assisteret formel verifikation værd at undersøge sammen med test – ikke til en grund til at stoppe med at teste eller antage, at softwaren er fejlfri. 9
5
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Claude beviste crash-frihed for 239 fuzzingmål – men ikke at softwaren er fejlfri"?
Anthropic og Theorem oplyser, at Claude beviste crash frihed for 239 testindgange i 123 open source biblioteker – for input under 64 MB i en modelleret RISC V og Linux opsætning.
What are the key points to validate first?
Anthropic og Theorem oplyser, at Claude beviste crash frihed for 239 testindgange i 123 open source biblioteker – for input under 64 MB i en modelleret RISC V og Linux opsætning. Arbejdet tog ifølge holdet få uger og resulterede i omkring 180 millioner linjer Rocq beviser, som blev kontrolleret af Rocqs beviskerne.
What should I do next in practice?
Beviserne gælder bestemte kompilerede programmer og egenskaber. De er ikke en garanti for, at bibliotekerne er fri for alle fejl eller sikre i enhver version og opsætning.
Sources
anthropic.comLLMs are making formal software verification feasible at ... - Anthropic
hyper.aiAnthropic Says Claude Generated Assembly-Level Formal ...
aicoder.comAnthropic Frontier Red Team: Claude, working with Theorem ...
devops.comClaude Writes 180 Million Lines of Proofs to Verify 123 Open Source Libraries