FlashProveは、Anthropicが公開した「検証可能な推論」のオープンソース研究プロトタイプです。提供者がモデルの重みにあらかじめコミットし、応答ごとに、指定されたトークンがその重みのもとで合意済みのルールを満たすことを暗号学的に証明します。利用者はモデルの重みを受け取らずに証明を検証できます。 1029

ただし、証明の範囲はあくまで定義されたトークン単位の主張です。モデルが安全であること、配信のあらゆる工程が適正だったこと、あるいはどのようなサンプリング方式の出力でも主張どおりに生成されたことを証明するわけではありません。 1029

FlashProveで確認できること、できないこと

応答の証明を、サービスが表示するモデル名だけでなく、特定の重みへのコミットメントに結びつけられます。これにより、別のモデルへのすり替えを見つけやすくしたり、正しいコミットメントに対する証明がない応答を拒否したりできる可能性があります。Anthropicは、チャットの乗っ取りを難しくすることや、安全性評価でテスト対象と顧客に提供されるモデルが同一か確かめることを、想定される用途として挙げています。 1040

一方で、利用者側が「どのコミットメントを信頼するか」を把握している必要があります。検証で確認できるのは、指定されたコミットメントと公開ファイルに照らした証明の正しさです。そのコミットメントが、提供者の掲げるモデルに本当に対応していることまで自動的に保証するわけではありません。また、モデルの同一性を確かめても安全性の認証にはなりません。本物のモデルでも、有害または誤った回答を出すことはあり得ます。 3032

仕組みは「事前にコミット、応答ごとに証明」

1. オフラインで重みにコミット

提供者はFlashProveのコミッターを使ってモデルの重みにコミットし、検証に必要な情報を公開します。コミットメントには、特定の重み一式に結びつく32バイトの識別子「commitment ID」が含まれます。重みそのものは公開されません。 3039

2. 応答ごとに証明を生成

応答の生成時には、対象のトークンがコミット済みの重みのもとで受け入れ条件を満たすことを示す証明を作ります。標準のexact-match条件では、検査対象の各トークンがモデルの貪欲法による選択肢であることを求めます。もう一つのclipped-gap条件は、トークンのスコアが許容されたスコア差のルールを満たすかを確認するもので、指定された確率分布に従ってトークンが正直にサンプリングされたと証明するものではありません。 2032

3. クライアントが検証

クライアントは、期待するcommitment IDと関連する公開ファイルに加え、リクエスト、トークンについての主張、適用する受け入れ条件に照らして証明を検証します。検証プログラムはCPU上で動作し、非公開の重みやGPUを必要としません。 293034

この仕組みは、重みを顧客に渡さずに推論の主張を検証できるため、非公開モデルを提供する事業者にも応用できる可能性があります。ただし、これは想定される使い方であり、商用サービスがFlashProveを導入済みだという意味ではありません。 1629

Llama 4 Maverickでの実証結果

FlashProveは、Metaの約4,000億パラメーターのMixture-of-Expertsモデル「Llama 4 Maverick」で実証されました。公表された速度は、1人の利用者によるチャット応答の速度ではなく、複数リクエストをまとめて処理したときのスループットです。 37

• 証明生成のスループット： Nvidia H100を1基使い、各リクエストのウィンドウが1,024トークンの24件をまとめて処理した場合、毎秒約110トークン。バッチ全体の処理には約223秒かかりました。 17
• 証明サイズ： 1,024トークンのリクエスト1件あたり約18.78MB、概数で約19MBです。 17
• 検証時間： 公表されたベンチマークでは、24スレッドのCPUで約17秒。1スレッドの場合は約21秒でした。 119
• 事前のコミット処理： 一度限りのコミットメント作成に約39分かかり、公開されたコミットメント情報は約6.5MBでした。 713

リポジトリにはLeanによる検証器と、機械的にチェックされた健全性の証明も含まれています。ただし、その範囲には注意が必要です。文書で説明されているのは、明示された仮定のもとでLean検証器がexact-matchの主張を扱う場合の健全性です。clipped-gapで示せる主張はより限定的であり、あらゆる実装、運用環境、デコード方式に同じ保証が及ぶわけではありません。 3233

実用化に向けた主な限界

証明生成の計算コストが大きい。 公表されたテストでは、証明生成に必要なGPU時間は、通常のvLLM推論のおよそ70〜95倍でした。応答に証明を付ける仕組みとしては、大きな追加負担です。 18

実証されたウィンドウは1,024トークン。 フルサイズの実証について、リポジトリは1,024トークンのコンテキストウィンドウを記載しています。この結果だけでは、より長いコンテキストへの対応は確認できません。 23

バッチ処理の数字は待ち時間を表しきれない。 毎秒約110トークンという値は24件をまとめた場合の合計スループットです。実際のサービスでは、バッチを組むために待つ時間が利用者の遅延に加わる可能性があります。 1

保証される生成方式は限定的。 exact-matchが確認するのは貪欲法で選ばれたトークンです。clipped-gapも、出力が特定のランダムなサンプリング分布に従って生成されたことを証明するものではありません。どちらの条件も、回答が安全・正確・有用であることを保証しません。 2032

開発チーム、ライセンス、公開状況

FlashProveはAnthropicのFrontier Red Teamが、EPFL、MIT、StarkWareの協力者と開発しました。著者にはAnthropicの研究者Roy RinbergとAlex Allain、暗号研究者のAlessandro Chiesaらが名を連ねています。 1031

コードはApache 2.0ライセンスで公開されています。ただし、リポジトリはFlashProveを「メンテナンスされておらず、コントリビューションを受け付けていない」研究成果物と説明しています。オープンソースであることと、プロジェクトが変更提案を受け入れていることは別です。 213135

報道によれば、AnthropicはFlashProveを自社または他社で導入する予定はないとしています。リポジトリのメンテナンス方針と合わせると、現時点では完成した製品やサポート対象の本番サービスではなく、検証可能なAI推論を探るための研究プロトタイプと位置づけるのが適切です。 1535

FlashProveは、Anthropicが公開した「検証可能な推論」のオープンソース研究プロトタイプです。提供者がモデルの重みにあらかじめコミットし、応答ごとに、指定されたトークンがその重みのもとで合意済みのルールを満たすことを暗号学的に証明します。利用者はモデルの重みを受け取らずに証明を検証できます。 1029

ただし、証明の範囲はあくまで定義されたトークン単位の主張です。モデルが安全であること、配信のあらゆる工程が適正だったこと、あるいはどのようなサンプリング方式の出力でも主張どおりに生成されたことを証明するわけではありません。 1029

FlashProveで確認できること、できないこと

応答の証明を、サービスが表示するモデル名だけでなく、特定の重みへのコミットメントに結びつけられます。これにより、別のモデルへのすり替えを見つけやすくしたり、正しいコミットメントに対する証明がない応答を拒否したりできる可能性があります。Anthropicは、チャットの乗っ取りを難しくすることや、安全性評価でテスト対象と顧客に提供されるモデルが同一か確かめることを、想定される用途として挙げています。 1040

一方で、利用者側が「どのコミットメントを信頼するか」を把握している必要があります。検証で確認できるのは、指定されたコミットメントと公開ファイルに照らした証明の正しさです。そのコミットメントが、提供者の掲げるモデルに本当に対応していることまで自動的に保証するわけではありません。また、モデルの同一性を確かめても安全性の認証にはなりません。本物のモデルでも、有害または誤った回答を出すことはあり得ます。 3032

仕組みは「事前にコミット、応答ごとに証明」

1. オフラインで重みにコミット

提供者はFlashProveのコミッターを使ってモデルの重みにコミットし、検証に必要な情報を公開します。コミットメントには、特定の重み一式に結びつく32バイトの識別子「commitment ID」が含まれます。重みそのものは公開されません。 3039

2. 応答ごとに証明を生成

応答の生成時には、対象のトークンがコミット済みの重みのもとで受け入れ条件を満たすことを示す証明を作ります。標準のexact-match条件では、検査対象の各トークンがモデルの貪欲法による選択肢であることを求めます。もう一つのclipped-gap条件は、トークンのスコアが許容されたスコア差のルールを満たすかを確認するもので、指定された確率分布に従ってトークンが正直にサンプリングされたと証明するものではありません。 2032

3. クライアントが検証

クライアントは、期待するcommitment IDと関連する公開ファイルに加え、リクエスト、トークンについての主張、適用する受け入れ条件に照らして証明を検証します。検証プログラムはCPU上で動作し、非公開の重みやGPUを必要としません。 293034

この仕組みは、重みを顧客に渡さずに推論の主張を検証できるため、非公開モデルを提供する事業者にも応用できる可能性があります。ただし、これは想定される使い方であり、商用サービスがFlashProveを導入済みだという意味ではありません。 1629

Llama 4 Maverickでの実証結果

FlashProveは、Metaの約4,000億パラメーターのMixture-of-Expertsモデル「Llama 4 Maverick」で実証されました。公表された速度は、1人の利用者によるチャット応答の速度ではなく、複数リクエストをまとめて処理したときのスループットです。 37

• 証明生成のスループット： Nvidia H100を1基使い、各リクエストのウィンドウが1,024トークンの24件をまとめて処理した場合、毎秒約110トークン。バッチ全体の処理には約223秒かかりました。 17
• 証明サイズ： 1,024トークンのリクエスト1件あたり約18.78MB、概数で約19MBです。 17
• 検証時間： 公表されたベンチマークでは、24スレッドのCPUで約17秒。1スレッドの場合は約21秒でした。 119
• 事前のコミット処理： 一度限りのコミットメント作成に約39分かかり、公開されたコミットメント情報は約6.5MBでした。 713

リポジトリにはLeanによる検証器と、機械的にチェックされた健全性の証明も含まれています。ただし、その範囲には注意が必要です。文書で説明されているのは、明示された仮定のもとでLean検証器がexact-matchの主張を扱う場合の健全性です。clipped-gapで示せる主張はより限定的であり、あらゆる実装、運用環境、デコード方式に同じ保証が及ぶわけではありません。 3233

実用化に向けた主な限界

証明生成の計算コストが大きい。 公表されたテストでは、証明生成に必要なGPU時間は、通常のvLLM推論のおよそ70〜95倍でした。応答に証明を付ける仕組みとしては、大きな追加負担です。 18

実証されたウィンドウは1,024トークン。 フルサイズの実証について、リポジトリは1,024トークンのコンテキストウィンドウを記載しています。この結果だけでは、より長いコンテキストへの対応は確認できません。 23

バッチ処理の数字は待ち時間を表しきれない。 毎秒約110トークンという値は24件をまとめた場合の合計スループットです。実際のサービスでは、バッチを組むために待つ時間が利用者の遅延に加わる可能性があります。 1

保証される生成方式は限定的。 exact-matchが確認するのは貪欲法で選ばれたトークンです。clipped-gapも、出力が特定のランダムなサンプリング分布に従って生成されたことを証明するものではありません。どちらの条件も、回答が安全・正確・有用であることを保証しません。 2032

開発チーム、ライセンス、公開状況

FlashProveはAnthropicのFrontier Red Teamが、EPFL、MIT、StarkWareの協力者と開発しました。著者にはAnthropicの研究者Roy RinbergとAlex Allain、暗号研究者のAlessandro Chiesaらが名を連ねています。 1031

コードはApache 2.0ライセンスで公開されています。ただし、リポジトリはFlashProveを「メンテナンスされておらず、コントリビューションを受け付けていない」研究成果物と説明しています。オープンソースであることと、プロジェクトが変更提案を受け入れていることは別です。 213135

報道によれば、AnthropicはFlashProveを自社または他社で導入する予定はないとしています。リポジトリのメンテナンス方針と合わせると、現時点では完成した製品やサポート対象の本番サービスではなく、検証可能なAI推論を探るための研究プロトタイプと位置づけるのが適切です。 1535