答え公開済み2 時間前Last edited 2 時間前24 ソース

Claudeが示した「クラッシュしない」の証明、対象と前提を確認

AnthropicとTheoremによると、Claudeは123のオープンソースライブラリにある239のファズテスト入口を形式検証。64MB未満の入力など、定められた条件下での性質を証明しました。証明の対象は選ばれた入口のRISC V実行ファイルです。ライブラリ全体や、一般的な環境でのあらゆる利用が安全だと示したわけではありません。

公開者GPT-6 Luna で編集GPT Image 2 で画像を生成

Studio Global AIで検索して事実確認さらにトレンドページを見る

研究の答え

重要なポイント

AnthropicとTheoremによると、Claudeは123のオープンソースライブラリにある239のファズテスト入口を形式検証。64MB未満の入力など、定められた条件下での性質を証明しました。
証明の対象は選ばれた入口のRISC V実行ファイルです。ライブラリ全体や、一般的な環境でのあらゆる利用が安全だと示したわけではありません。
報告によれば、作業は数週間で行われ、Rocqの証明コードは約1億8000万行に達しました。

Illustration of AI-assisted formal verification examining compiled software code — What did Anthropic’s Frontier Red Team and formal-methods partner Theorem report in their October 22, 2026 research about Claude’s assembly-An editorial illustration of AI-assisted software verification.
AI プロンプト
Create a landscape editorial hero image for this Studio Global article: What did Anthropic’s Frontier Red Team and formal-methods partner Theorem report in their October 22, 2026 research about Claude’s assembly-. Article summary: Anthropic’s Frontier Red Team and Theorem reported that Claude produced machine-checked, assembly-level crash-freedom proofs for 239 fuzz-test entry points across 123 open-source libraries—not that the libraries were uni. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
openai.com

AnthropicのFrontier Red Teamと形式手法の企業Theoremは、Claudeを使い、123のオープンソースライブラリに含まれる239のファズテスト入口について、機械で検査できる証明を作成したと報告しました。証明が対象とするのは、定められた条件のもとでコンパイル済みのRISC-Vプログラムがクラッシュなどを起こさないという性質です。ライブラリ全体が、どんな環境でもバグのない状態だと示したものではありません。9 5

規模も注目されています。チームによれば、作業は数週間で進み、Rocqの証明コードは約1億8000万行に上りました。今回の成果が示すのは、AIの支援によって、これまで専門家の大きな労力を要していた形式検証を、より多くの実ソフトウェアに広げられる可能性です。ただし、保証の意味は、実際に記述され検査された性質と条件の範囲に限られます。3 13

証明が示すこと

Anthropicによると、対象のプログラムは、64MB未満のすべての入力について、モデル化されたLinuxの応答やメモリ配置のもとで、メモリ安全性のエラーやアサーション失敗を起こさず正常終了します。ただし、これはコンパイル済みのRISC-V実行ファイルに関する証明であり、各ライブラリのあらゆるバージョンや導入環境を保証するものではありません。9 12

この取り組みでは、GoogleのOSS-Fuzzにある既存のテスト入口を、形式的な仕様として利用しました。ファズテストが多くの入力を試すのに対し、Claudeは、仕様で定められた入力範囲全体について、対象のバイナリがどう振る舞うかを証明する形で作業を進めました。3 13

Anthropicは、このプロジェクトを、AIを使って本番ソフトウェアをアセンブリレベルで大規模に形式検証する初の試みと説明しています。これは同社側の新規性に関する主張であり、歴史的な評価として独立に確立されたものとは区別して受け止める必要があります。7 13

Claudeが証明し、Rocqが検査

証明を生成したのはClaudeで、内容を機械的に検査したのはRocqの証明カーネルです。そのため、開発者がClaudeの推論をそのまま信頼したり、証明の全行を手作業で確認したりしなくても、証明が機械的に検査されたかを確かめられます。一方で、定理が開発者の必要とする性質を正しく表しているか、形式モデルや検査器に問題がないかは、引き続き重要です。9 5

Anthropicなどの報告では、証明コードは約1億8000万行で、バイナリ1つあたり平均約60万行に相当します。この行数は作業の規模を示すものですが、それだけで保証の適用範囲や、実運用上の要件との適合性が分かるわけではありません。3 12

ファジングで見つからなかったバグも

ファジングは多数の入力を試す手法ですが、定められた範囲のすべての入力について振る舞いを証明するものではありません。プロジェクトの報告では、Claudeが数百件のバグを発見・修正し、その中には何兆回ものファジング実行を経ても見つかっていなかった問題が含まれていたとされています。これは今回の取り組みに関する報告であり、別のプロジェクトでも形式検証がテストを上回る頻度を示す、独立した測定結果ではありません。2 11

実務上のポイントは、テストをやめることではありません。形式証明は、定めた性質と適用範囲について、テストで実際に試したケースだけでなく、仕様に含まれるすべての入力に対する別種の根拠を与えます。9 2

「検証済み」でも「バグなし」ではない

保証の対象は、選ばれたテスト入口と特定のコンパイル済みプログラムです。ライブラリのすべての機能、ビルド設定、アーキテクチャ、利用方法に自動的に広がるわけではありません。9 5

前提条件もあります。報告では、単一スレッドで動く静的なRISC-Vバイナリを、メモリ量を定めたLinuxのモデル環境で実行する条件が説明されています。一般的な利用環境では別のアーキテクチャや設定でビルドされることも多く、今回の証明をそのまま通常の導入環境に対する保証とみなすことはできません。12 27 34

さらに、証明が示すのは、記述された定理が成り立つことです。定理の対象外にあるバグや、形式モデル、証明検査の基盤に関わる問題まで排除するわけではありません。5 31

開発者が押さえておきたいこと

今回の成果の大きな意味は、AIの支援によって、実際のソフトウェアをアセンブリレベルで形式検証する作業を、より広い範囲で実施できる可能性が示されたことです。一方、あらゆるコードベースで同じコストや成果が得られると保証されたわけではありません。7 13

証明成果の一部は公開されており、ある報告では、公開分は25のライブラリと60の入口を対象とし、プロジェクト全体の一部にとどまるとされています。Theoremは、オープンソースのメンテナー向けプログラム「OSS Verify」も発表しています。32 16 38

開発者にとっては、証明を適用範囲の明確な保証として扱うことが大切です。利用する前に、対象の入口、コンパイル済みの成果物、前提条件、証明された性質を確認しましょう。今回の結果は、LLMを使った形式検証をテストと並行して検討する理由にはなりますが、テストをやめたり、ソフトウェアにバグがないと考えたりする根拠にはなりません。9 5

Studio Global AI

研究を続けてください

このページにはソースに裏付けされた回答が含まれており、Studio Global 内で続行できます。

Studio Global AIで検索して事実確認

人々も尋ねます