AIとバイオセキュリティをめぐる議論は、「危険な生物学の質問にチャットボットが答えるか」という単純な問いを越えつつあります。

より難しい問題は、性能が向上したモデルが、専門知識の乏しい利用者に対して、複数の障壁を一度に乗り越える手助けをできるかどうかです。関連研究の検索、仮説の提案、設計の反復、実験のトラブル対処、さらにデジタル上の助言を現実の生産工程へつなぐことまでが含まれます。

これは、チャットボットが自律的に病原体を製造するという話とは異なります。生物学的な危害には、依然として材料、装置、実験設備、研究能力、搬送手段が必要です。ただし、科学モデルが長期的な推論や生物学的設計に強くなれば、断片的に公開されている知識が、より実行可能な支援へ変わる可能性があります。2026年に公開されたワーキングペーパーも、現在の基盤モデルが生物兵器開発に関係する助言を提供するリスクを高めると論じています。33

対応の軸は「多層防御」

利用可能な資料が示す政策上の方向性は、1つの拒否機能や、1社のモデル提供者にすべてを委ねることではありません。生物学的リスクが進む各段階に、複数の安全策を置く考え方です。

• モデル層： 提供前の評価、生物学的能力へのレッドチーム検証、分類器や行動制限、悪用の監視、能力変化に応じた安全策の更新
• アクセス層： 高性能モデルや機微な機能を、審査済みの利用者、組織、アプリケーションに限定
• 生産層： 合成DNA・RNAの注文審査、顧客確認、調査に役立つ記録の保存
• 検知層： 異常検知、バイオサーベイランス、疾病監視、微生物フォレンジックの強化
• 対応と説明責任： 診断、医療対策、準備、帰属判断、妨害、抑止の能力を向上

RANDが2026年に示した多層防御戦略は、こうした段階にまたがる9つの介入策を挙げ、AIを使って生物兵器の構築を支援する行為を、単独の安全策だけで防ぐことはできないと結論づけています。3639

実務的な意味は明確です。モデルの拒否機能が回避されたり、誤作動したりしても、合成注文の審査、不審な注文の記録、公衆衛生上の異常シグナルが、別の検知・阻止の機会になります。

AI企業がモデル層で進める対策

フロンティアAI企業が公表している取り組みは、能力評価と管理された提供を組み合わせるものです。科学研究における正当な利用を残しながら、生物学的危害を実質的に助長する支援を制限することが狙いです。

Anthropicの公開資料は、段階的なアクセス管理の具体例を示しています。同社は、Claude Fable 5を一般提供モデル、Claude Mythos 5をProject Glasswingを通じた限定提供モデルとして説明しており、Mythosへのアクセスは審査済みの少数の組織に限られるとしています。495051

Anthropicの発表によると、Fable 5とMythos 5は同じ基盤モデルを共有しています。一方、Mythos 5は一部領域で安全策を外した構成として、サイバー防御担当者やインフラ提供者の限られたグループに展開されています。5056これは、一般利用向けには安全策を組み込んだモデルを提供し、より高性能、あるいは制限の少ない機能は管理された環境でのみ使えるようにする、という幅広いガバナンスの方向性を示しています。

ただし、今回利用できる資料だけでは、元の問いに含まれていたいくつかの具体的な主張を独立に確認できません。Fable 5が潜在的な生物兵器開発者に「大幅な能力向上」を与えたという社内テストの内容、機微な生物学の質問を「Opus 5」に回したという運用、8月に誤検知を約85％減らしたという数字などです。これらは、一次的な安全性報告書など、直接検証できる資料が確認されるまでは確定した事実として扱うべきではありません。

なぜ合成DNAの注文審査が重要なのか

モデルの安全策が制御するのは、AIが何を回答するかです。しかし、利用者が設計や配列などの生物学的な成果物を手にした後に何が起きるかまでは、モデル単体では管理できません。そのため、AI企業の幹部は物理的な生産経路にも焦点を当てています。

OpenAI、Anthropic、Google DeepMind、Microsoft AIの幹部は、米国の議員に対し、合成DNA・RNAの提供事業者へ注文審査、顧客確認、関連記録の保存を義務づけるよう求める公開書簡に署名しました。172223

これは、物理的な「チョークポイント」、つまり供給を止めたり確認したりできる要所を対象にする提案です。危険な依頼がモデルの制御をすり抜けても、疑わしい合成注文が材料の供給前に検知される可能性があります。

記録保存には追跡可能性を高める意味もあります。審査で不審な活動を見逃した場合でも、注文や配列を顧客と結びつける手がかりを捜査機関に提供できます。リスクをなくす仕組みではありませんが、AIプラットフォームの外側にもう1本の防御線を加える措置です。

規制当局とバイオセキュリティ機関の対応

政策対応は、AIのルール作りから、より広い生物防衛へと広がっています。アトランティック・カウンシルの生物防衛に関する超党派委員会は、「Apollo Program for Biodefense」における16番目の技術優先課題としてAIを位置づけました。議題には、攻撃面のリスクだけでなく、AIを活用した疾病監視、診断、医療対策の開発、微生物フォレンジック、帰属判断、モデル評価、安全策、適応型の核酸スクリーニングが含まれます。24

OpenAIの生物防衛計画も、5つの柱を掲げています。防衛側への信頼できるアクセスの提供、フロンティア生物学の安全な発展、早期警戒システム、診断・準備・対応、そして対策とレジリエンスの評価です。3

こうした優先課題は、バイオセキュリティ機関がAIを「デュアルユース」、つまり善悪の両方に使いうる技術として捉えていることを示します。タンパク質研究、創薬、診断、医療対策の開発を加速する能力は、危険な生物学的推論へのアクセスを容易にする可能性もあります。

高度な生物学をすべて遮断すれば、有益な研究まで失われます。逆に、モデルのフィルターだけで十分だと考えれば、物理的な生産工程や組織間の連携に穴が残ります。

なぜ焦点は「次世代モデル」なのか

現在の公開チャットボットは、回答が不正確だったり、一般的な情報にとどまったり、危険な依頼を拒否したりします。これらの制約は重要ですが、長期的な安全保障戦略として十分とは限りません。

懸念が強まるのは、モデルが次のような能力を持つようになった場合です。

• 生物学や化学の専門文献を横断して統合する
• 長期にわたる複数段階の研究課題を推論する
• 生物学的設計を作成、比較、修正する
• 外部の科学ツールや自動化ワークフローを利用する
• 単発の質問に答えるだけでなく、失敗した方法の原因を分析して改善する

それぞれの能力は、異なる障壁を下げる可能性があります。リスクは累積的です。完全で間違いのない手順を一度に示さなくても、一定の資源や知識を持つ行為者の意思決定を改善し、見落とされていた選択肢を示し、試行錯誤の時間を短縮するだけで役立つ可能性があります。

とはいえ、現在の資料から、公開チャットボットだけで実用的な生物兵器を要求どおりに製造できると断定することはできません。焦点となるのは、AIが端から端まで自律的に製造することではなく、より広い作業工程の各所で支援を強める可能性です。

科学の開放性と安全策をどう両立するか

中心的な課題は、正当な科学研究を止めずに、重大な生物学的危害につながる支援を制限することです。資料から浮かび上がる原則は、次のように整理できます。

1. 一律の世界共通ルールではなく、調整されたアクセス管理を使う。 利用者、モデル、用途によってリスクは異なります。
2. 安全策を独立かつ継続的に検証する。 現在のモデルで機能する制御が、能力向上後も機能するとは限りません。
3. 物理的な要所を守る。 デジタル上の安全策が失敗した場合も、注文審査や顧客確認が補完できます。
4. 合法かつ適切な範囲で機関間のシグナルを共有する。 AIへの入力、合成注文、研究室、公衆衛生のデータを組み合わせて初めて見える不審行動もあります。
5. 予防だけでなく防御にも投資する。 監視、診断、対策、帰属判断、対応能力を高めれば、失敗時の被害を抑えられます。

最も慎重な結論は、「AIによって生物兵器が必ず生まれる」ということでも、「現在のチャットボット規制で問題は解決した」ということでもありません。必要なのは、リスクをシステム全体で管理することです。

モデルの安全策、限定アクセス、合成注文の審査、異常検知、公衆衛生上の備え、説明責任は、互いに重なり合うときに最も強くなります。逆に、そのどれか1つがすべての負担を担えると政策立案者が考えたとき、防御は脆くなります。

AIとバイオセキュリティをめぐる議論は、「危険な生物学の質問にチャットボットが答えるか」という単純な問いを越えつつあります。

より難しい問題は、性能が向上したモデルが、専門知識の乏しい利用者に対して、複数の障壁を一度に乗り越える手助けをできるかどうかです。関連研究の検索、仮説の提案、設計の反復、実験のトラブル対処、さらにデジタル上の助言を現実の生産工程へつなぐことまでが含まれます。

これは、チャットボットが自律的に病原体を製造するという話とは異なります。生物学的な危害には、依然として材料、装置、実験設備、研究能力、搬送手段が必要です。ただし、科学モデルが長期的な推論や生物学的設計に強くなれば、断片的に公開されている知識が、より実行可能な支援へ変わる可能性があります。2026年に公開されたワーキングペーパーも、現在の基盤モデルが生物兵器開発に関係する助言を提供するリスクを高めると論じています。33

対応の軸は「多層防御」

利用可能な資料が示す政策上の方向性は、1つの拒否機能や、1社のモデル提供者にすべてを委ねることではありません。生物学的リスクが進む各段階に、複数の安全策を置く考え方です。

• モデル層： 提供前の評価、生物学的能力へのレッドチーム検証、分類器や行動制限、悪用の監視、能力変化に応じた安全策の更新
• アクセス層： 高性能モデルや機微な機能を、審査済みの利用者、組織、アプリケーションに限定
• 生産層： 合成DNA・RNAの注文審査、顧客確認、調査に役立つ記録の保存
• 検知層： 異常検知、バイオサーベイランス、疾病監視、微生物フォレンジックの強化
• 対応と説明責任： 診断、医療対策、準備、帰属判断、妨害、抑止の能力を向上

RANDが2026年に示した多層防御戦略は、こうした段階にまたがる9つの介入策を挙げ、AIを使って生物兵器の構築を支援する行為を、単独の安全策だけで防ぐことはできないと結論づけています。3639

実務的な意味は明確です。モデルの拒否機能が回避されたり、誤作動したりしても、合成注文の審査、不審な注文の記録、公衆衛生上の異常シグナルが、別の検知・阻止の機会になります。

AI企業がモデル層で進める対策

フロンティアAI企業が公表している取り組みは、能力評価と管理された提供を組み合わせるものです。科学研究における正当な利用を残しながら、生物学的危害を実質的に助長する支援を制限することが狙いです。

Anthropicの公開資料は、段階的なアクセス管理の具体例を示しています。同社は、Claude Fable 5を一般提供モデル、Claude Mythos 5をProject Glasswingを通じた限定提供モデルとして説明しており、Mythosへのアクセスは審査済みの少数の組織に限られるとしています。495051

Anthropicの発表によると、Fable 5とMythos 5は同じ基盤モデルを共有しています。一方、Mythos 5は一部領域で安全策を外した構成として、サイバー防御担当者やインフラ提供者の限られたグループに展開されています。5056これは、一般利用向けには安全策を組み込んだモデルを提供し、より高性能、あるいは制限の少ない機能は管理された環境でのみ使えるようにする、という幅広いガバナンスの方向性を示しています。

ただし、今回利用できる資料だけでは、元の問いに含まれていたいくつかの具体的な主張を独立に確認できません。Fable 5が潜在的な生物兵器開発者に「大幅な能力向上」を与えたという社内テストの内容、機微な生物学の質問を「Opus 5」に回したという運用、8月に誤検知を約85％減らしたという数字などです。これらは、一次的な安全性報告書など、直接検証できる資料が確認されるまでは確定した事実として扱うべきではありません。

なぜ合成DNAの注文審査が重要なのか

モデルの安全策が制御するのは、AIが何を回答するかです。しかし、利用者が設計や配列などの生物学的な成果物を手にした後に何が起きるかまでは、モデル単体では管理できません。そのため、AI企業の幹部は物理的な生産経路にも焦点を当てています。

OpenAI、Anthropic、Google DeepMind、Microsoft AIの幹部は、米国の議員に対し、合成DNA・RNAの提供事業者へ注文審査、顧客確認、関連記録の保存を義務づけるよう求める公開書簡に署名しました。172223

これは、物理的な「チョークポイント」、つまり供給を止めたり確認したりできる要所を対象にする提案です。危険な依頼がモデルの制御をすり抜けても、疑わしい合成注文が材料の供給前に検知される可能性があります。

記録保存には追跡可能性を高める意味もあります。審査で不審な活動を見逃した場合でも、注文や配列を顧客と結びつける手がかりを捜査機関に提供できます。リスクをなくす仕組みではありませんが、AIプラットフォームの外側にもう1本の防御線を加える措置です。

規制当局とバイオセキュリティ機関の対応

政策対応は、AIのルール作りから、より広い生物防衛へと広がっています。アトランティック・カウンシルの生物防衛に関する超党派委員会は、「Apollo Program for Biodefense」における16番目の技術優先課題としてAIを位置づけました。議題には、攻撃面のリスクだけでなく、AIを活用した疾病監視、診断、医療対策の開発、微生物フォレンジック、帰属判断、モデル評価、安全策、適応型の核酸スクリーニングが含まれます。24

OpenAIの生物防衛計画も、5つの柱を掲げています。防衛側への信頼できるアクセスの提供、フロンティア生物学の安全な発展、早期警戒システム、診断・準備・対応、そして対策とレジリエンスの評価です。3

こうした優先課題は、バイオセキュリティ機関がAIを「デュアルユース」、つまり善悪の両方に使いうる技術として捉えていることを示します。タンパク質研究、創薬、診断、医療対策の開発を加速する能力は、危険な生物学的推論へのアクセスを容易にする可能性もあります。

高度な生物学をすべて遮断すれば、有益な研究まで失われます。逆に、モデルのフィルターだけで十分だと考えれば、物理的な生産工程や組織間の連携に穴が残ります。

なぜ焦点は「次世代モデル」なのか

現在の公開チャットボットは、回答が不正確だったり、一般的な情報にとどまったり、危険な依頼を拒否したりします。これらの制約は重要ですが、長期的な安全保障戦略として十分とは限りません。

懸念が強まるのは、モデルが次のような能力を持つようになった場合です。

• 生物学や化学の専門文献を横断して統合する
• 長期にわたる複数段階の研究課題を推論する
• 生物学的設計を作成、比較、修正する
• 外部の科学ツールや自動化ワークフローを利用する
• 単発の質問に答えるだけでなく、失敗した方法の原因を分析して改善する

それぞれの能力は、異なる障壁を下げる可能性があります。リスクは累積的です。完全で間違いのない手順を一度に示さなくても、一定の資源や知識を持つ行為者の意思決定を改善し、見落とされていた選択肢を示し、試行錯誤の時間を短縮するだけで役立つ可能性があります。

とはいえ、現在の資料から、公開チャットボットだけで実用的な生物兵器を要求どおりに製造できると断定することはできません。焦点となるのは、AIが端から端まで自律的に製造することではなく、より広い作業工程の各所で支援を強める可能性です。

科学の開放性と安全策をどう両立するか

中心的な課題は、正当な科学研究を止めずに、重大な生物学的危害につながる支援を制限することです。資料から浮かび上がる原則は、次のように整理できます。

1. 一律の世界共通ルールではなく、調整されたアクセス管理を使う。 利用者、モデル、用途によってリスクは異なります。
2. 安全策を独立かつ継続的に検証する。 現在のモデルで機能する制御が、能力向上後も機能するとは限りません。
3. 物理的な要所を守る。 デジタル上の安全策が失敗した場合も、注文審査や顧客確認が補完できます。
4. 合法かつ適切な範囲で機関間のシグナルを共有する。 AIへの入力、合成注文、研究室、公衆衛生のデータを組み合わせて初めて見える不審行動もあります。
5. 予防だけでなく防御にも投資する。 監視、診断、対策、帰属判断、対応能力を高めれば、失敗時の被害を抑えられます。

最も慎重な結論は、「AIによって生物兵器が必ず生まれる」ということでも、「現在のチャットボット規制で問題は解決した」ということでもありません。必要なのは、リスクをシステム全体で管理することです。

モデルの安全策、限定アクセス、合成注文の審査、異常検知、公衆衛生上の備え、説明責任は、互いに重なり合うときに最も強くなります。逆に、そのどれか1つがすべての負担を担えると政策立案者が考えたとき、防御は脆くなります。