EUのAI試験アクセスが浮き彫りにした英国の最先端モデル安全性の弱点

英国がAnthropicのClaude Mythos 5.1の発売前試験から外れたとされる件は、英国の技術力への評価というよりも、アクセス権の脆さを示している。開発企業の同意に最終的に依存するなら、国家の評価機関は最先端モデルを必要な時期に独立検証できない。EUのサイバーセキュリティ機関ENISAがAnthropicのMythos 5とOpenAIのGPT-6 Astraにアクセスできることは重要だが、それはEUが後継モデルを常に試験できる権利、ましてMythos 5.1へのアクセスを得たことを意味しない。920

決定的なのは「モデルごとのアクセス」

欧州委員会の報道官によると、EUのサイバーセキュリティ機関であるENISAはMythos 5とGPT-6 Astraへのアクセスを認められ、試験を進めている。9 一方で報道では、Anthropicは英国AI Security Institute（AISI）に対し、Mythos 5.1を公開前に試験させなかった。主要モデルをAISIの発売前プロセスに提供しなかった初の事例とされる。2023

これを単純に「EUの勝利、英国の敗北」とみなすのは正確ではない。ENISAのアクセスは、特定の取り決めに基づくMythos 5とGPT-6 Astraという、名前が明示された2モデルに関するものだ。Mythos 5.1は別のリリースであり、より限定的なアクセス制度の下にある。

実務上の教訓は明快だ。安全性評価は今後、モデルの版、能力、想定用途、管轄、そして開発企業が定める提携先の条件ごとに分断・階層化されていく可能性が高い。

Mythos 5.1が通常の製品試験より難しい理由

Anthropicによれば、Claude Fable 5.1とClaude Mythos 5.1は基盤となるモデル自体は同一で、安全策の水準が異なる。Fable 5.1は広く提供される一方、Mythos 5.1はサイバーセキュリティとライフサイエンスでの利用を想定した「信頼されたアクセス」プログラムを通じてのみ利用可能とされる。12

このため論点は通常の製品テストにとどまらない。機微なサイバー業務や科学研究での利用を想定するシステムでは、管理された試験環境、不正利用の監視、利用者の審査、国家安全保障に関わる情報の取り扱いが問題になる。報道によれば、Mythos 5.1へのアクセスは当初、審査済みの米国組織に限られていた。1824

示された証拠だけでは、Anthropicが英国やAISIを信用していないために排除したとは結論づけられない。限定プログラムの設計、運用上の安全保障上の懸念、アクセスを企業側が管理したいという事情はいずれも考えられる。

それでも結果は重い。既存の協力関係や評価機関としての実績があっても、高い影響を持つモデルへの迅速なアクセスは保証されなかったからだ。

ENISAのアクセスが示すEUの交渉力

EUには、任意協力だけに依存する制度より強い法的な土台がある。EU AI法第55条は、システミックリスクを伴う汎用AIモデルの提供者に対し、標準化された手順とツールによるモデル評価、システミックリスクの評価・低減、重大インシデントの追跡・報告、適切なサイバーセキュリティ水準の確保を義務付けている。4337

同法は、モデルを初めて市場に投入する前の評価も想定し、必要に応じて内部または独立した外部による、文書化された敵対的テストを含めるとしている。3534

ただし、これらの提供者義務は、ENISAがモデルの重み、無制限のシステムアクセス、あるいはあらゆる最先端モデルの公開前アクセスを一律に受け取れる権利とは別物だ。ENISAの試験が重要なのは、EUの規制上の立場に加え、企業との協議を通じても確保された取り決めとみられるためである。49

言い換えれば、規制はEUが安全性の根拠、リスク管理、順守を求める能力を高めうる。しかし、サイバー、生物、エージェント型の能力を持つ機微なモデルを試験する際に必要な、安全な協力の実務までは置き換えられない。

英国がより露出する理由

Mythos 5.1へのアクセスが得られなかったとの報道は、任意のアクセスに依存する英国モデルの限界をはっきりさせた。この事例を受け、AISIにより強い権限と法定上の位置付けを与えるべきだという声が出ている。23

任意の仕組みは、研究所側が協力の価値を認める局面では機能する。硬直的な規制より速く、技術的にも柔軟に動ける場合がある。しかし弱点は予見可能性だ。開発企業はアクセスを制限でき、対象パートナーを変更でき、あるモデルをより厳しい国家安全保障上の経路に置く判断もできる。

英国にとっての戦略的リスクは、最先端システムを公開後にしか、あるいは他国政府や承認済みパートナーによる試験後にしか評価できなくなることにある。その場合、英国は安全性の証拠づくりを主導する側から、他者が生み出した証拠を受け取る側へ後退しかねない。

英国に必要な、より持続的な枠組み

直近の政策目標は、モデルの重みの強制提出である必要はない。高性能モデルでは、それ自体が安全保障や知的財産のリスクになり得る。むしろ焦点を当てるべきなのは、監査可能で統制されたアクセスだ。

考えられる対策は次の通りである。

1. 指定された最先端モデルの配備前通知：定義済みの能力・リスク基準を満たすモデルについて、配備前に指定当局へ通知することを開発企業に求める。
2. 証拠提出を求める法定権限：AISIが安全性ケース、評価結果、インシデント情報、関連する技術文書を取得できる明確な権限を持つ。
3. 安全な評価環境：モデル重みの提出ではなく、監視下のAPI、サンドボックスなどを通じた期限付きアクセスを求める。
4. 国家安全保障レビューの経路：サイバー、ライフサイエンス、自律エージェントに実質的な影響を持つモデルについて、サイバー、防疫・バイオセキュリティ、情報機関、AI評価の専門性を結集した審査を行う。
5. EUとの正式な協力：共通の評価手法、相互利用可能な安全な試験経路、重大インシデント対応の互換性を整え、欧州の試験ネットワークから英国が外れるリスクを抑える。

これらは、今回露呈した中心的な弱点に対応するものだ。すなわち、アクセスは個々の研究所との関係だけに委ねず、ガバナンスの設計に組み込まなければならない。

最先端AIの試験は「階層型」へ向かう

今後は層状の評価制度が広がるとみられる。市場向けの幅広いモデルには、提供者による試験、規制文書、インシデント報告義務が適用される。一方、より機微なサイバー、生物、自律エージェント能力は、制限された環境で評価される比重が増すだろう。最高リスクのシステムは、審査済みの政府機関、研究所、安全保障パートナーの少数にしかアクセスが認められない可能性がある。

ENISAによる試験と、英国のMythos 5.1への発売前アクセスが得られなかった事例は、その差がなぜ重要かを示している。競争の焦点は、最も強いモデルを誰が作るかだけではない。最も重大な版が広く展開される前に、誰が検査し、試験し、統治できるかにも移っている。91220

英国にとって技術的な評価能力は依然として重要だが、それだけでは足りない。影響力を維持するには、国内での信頼できる法的権限と、海外パートナーとの安全保障を踏まえた持続的なアクセスの仕組みが必要になる。