ホワイトハウスが求める「脱獄ゼロ」保証、なぜAI研究者は「絶対に不可能」と断言するのか

「脱獄ゼロ」保証が技術的に不可能な理由

産業界・学界を問わず、AI研究者の間では「脱獄ゼロ」要求は現在の方法では達成不可能だという見解が広く一致しています。その理由は、大規模言語モデルが動作する数学的基礎に根ざしています。

ジェイルブレイク・パラドックス。 2024年に発表され（2026年5月更新）、arXivで公開された論文は、2つのパラドックスを正式に証明しました。第一に、完全な脱獄分類器を構築することは不可能であること。第二に、弱いモデルは強いモデルが脱獄されたかどうかを一貫して検出できないことです。これは修正可能なバグではなく、アライメント（調整）が定義される方法に内在する数学的限界です。

対戦型のいたちごっこ。 脱獄は本質的に敵対的な問題です。攻撃者は、既存のフィルターをすり抜ける新しいプロンプトパターン、エンコーディングトリック、マルチターン戦略を継続的に発見します。あるクラスの脱獄が修正されるとすぐに、新しい亜種が出現します。

自律的な脱獄増殖。 2026年3月に『Nature Communications』誌に掲載された研究では、大規模推論モデルが自律的な脱獄エージェントとして機能し、テストされた全モデル組み合わせで平均97.14%の成功率を達成することが明らかになりました。攻撃対象領域は縮小するどころか拡大しています。

専門家のコンセンサス。 セキュリティ専門家は、脱獄を完全にブロックすることは「すべてのフロンティアAIの展開を停止させることになる」と述べています。この基準はバグ修正の目標ではなく、存在証明としての不可能性を示しているのです。

最後通牒に至るまでのエスカレーション

今回の要求は突然生まれたものではありません。Anthropicに対する政府の圧力が明確に強まっていった流れがあります。

1. ペンタゴンとの先鋭化した対立。 Anthropicはすでに国防総省との関係を巡って米国政府と対立していました。国防総省は同社を「サプライチェーンリスク」に指定し、連邦政府機関に対し同社製品の利用制限・中止を指示していました。

2. Amazonからの引き金。 AmazonのCEOアンディ・ジャシーがFable 5に関する特定のセキュリティ懸念をホワイトハウスに報告したことで、政権の介入が加速したとされています。他にも少なくとも5社が警鐘を鳴らしました。

3. 突然の停止命令。 6月12日午後5時21分（東部時間）、Anthropicは商務省からの書簡を受け取りました。同日午後10時頃までに、両モデルは世界中の全顧客向けに停止されました。これは米国がすでに一般公開されている商用AIモデルに輸出規制を適用した初めてのケースとなりました。

4. 「脱獄ゼロ」の最後通牒。 停止措置の後、ホワイトハウスは輸出制限から、技術的に不可能なセキュリティ基準を将来のリリースの前提条件として課す、という段階へとエスカレートしました。

TechCrunchはこの一連の出来事全体を「AIの脱獄が問題だったわけではない」と評し、政府がAIモデルを「危険すぎる」と一方的に判断する意思があることを示す政治的メッセージだと分析しています。

政府が実際に求めているもの

複数のメディアが報じたホワイトハウスの立場は、AnthropicのFable 5モデルが再開されるのは、同社が脱獄を不可能にした場合のみ、というものです。これは段階的な改善や階層化された脆弱性管理プロセスを求めるものではなく、絶対的な二者択一です──脱獄がどこにも存在しないか、モデルが展開されないかのどちらかです。

Anthropicはこれに対し、「いまだにどのテスターも普遍的な脱獄を発見できていない」と反論し、「脱獄を完全に回避することは、当社や他のどの企業にとっても不可能だ」と述べています。また同社は、「有害な結果につながった懸念すべき非普遍的な脱獄の可能性についての開示すら受け取っていない」とも指摘しています。

Anthropicが直面する3つの戦略的選択肢

複数のメディアの報道に基づくと、Anthropicには3つの大きな戦略的選択肢があります。

1. コンプライアンスと交渉。 CEOのダリオ・アモデイは6月15日にホワイトハウス高官と会談し、「脱獄ゼロ」という絶対基準に代わる、階層化された重大度基準に基づく脆弱性評価フレームワークの構築を交渉しました。ホワイトハウスとAnthropicは、セキュリティ脆弱性の深刻度を評価する枠組みについて協力していると報じられています。これが現在Anthropicが追求している道筋です。

2. 司法審査または政治的異議申し立て。 Anthropicは輸出規制を法廷で争う可能性があります。政府が法定権限を超えている、またはすでに公開されている商用製品に遡及的に輸出規制を適用したのは適正手続きに違反する、と主張するものです。これはハイリスク・ハイステークスの選択であり、画期的な判例を生む可能性があります。

3. 事業再編または海外移転。 Anthropicは、より予測可能な規制環境を持つ地域にモデルリリースを限定するか、米国向け製品と世界向け製品を分離するよう組織再編を行う可能性があります。一部のアナリストはこれを「核オプション」と呼び、Anthropicのビジネスモデルを根本的に変えることになると指摘しています。

なぜこれがAI業界にとって分水嶺となるのか

今回の対立は、フロンティアAIの未来を決定づける3つの根本的な緊張関係を浮き彫りにしています。

技術的現実と規制的絶対主義。 政府はコンピュータサイエンスの観点から不可能だと証明されている保証（脱獄ゼロ）を要求しています。政権がこの基準を主張し続ければ、どの研究所も基準を満たせないため、事実上、あらゆるフロンティアモデルのリリースに拒否権を持つことになります。

公開ソフトウェアへの輸出規制。 米国は初めて、すでに一般公開されていた商用AIモデルに輸出規制を適用しました。これは、一方的な国家安全保障上の判断に基づき、どのAI研究所に対しても製品を一晩で停止するよう命じることができる前例となります。

独立性と事実上の政府統制。 Anthropicは安全性と独立性を重視したミッション主導型企業として創業されました。ホワイトハウスの行動は、最も「責任ある」研究所でさえ、技術的に非現実的な政府基準に従うことを強制されるか、製品を単に停止されることを示しています 。Bloombergが指摘するように、このブロックは「米国の政策転換」であり、「シリコンバレーへの警告」──自主規制によるフロンティアAI展開の時代が終わったのかもしれません。