科学分野のAIは、生物学、医療、創薬の研究を加速し得ます。一方で、モデルが高度化すれば、化学・生物学的な悪用に必要な知識、調整、試行錯誤の一部を容易にする懸念もあります。

そこで形になりつつあるのは、一律に利用を止める仕組みではありません。**モデルの能力評価、利用制限、監視、そして現実世界の実行段階にある防壁を重ねる「多層防御」**です。

問われているのは「役に立つほどの上積み」があるか

論点は、一般向けチャットボットが生物兵器の完成手順を一問一答で出せるか、だけではありません。より重要なのは、危険な計画を進める際の所要時間、専門技能、トラブル対応、複数工程の調整といった負担を、AIが実質的に下げてしまうかどうかです。

生物学的な危害は、文章を生成するだけで成立するものではありません。材料、設備、専門性、実行能力が必要です。基盤モデルと生物兵器リスクを扱ったワーキングペーパーも、単発のプロンプトではなく、技術的に難しい開発工程をAIがどこまで案内できるかを問題にしています。

AI企業が採り始めた対策：評価、精密な制限、段階的な提供

最先端モデルを開発する企業の安全対策は、おおむね次の方向に収れんしています。

• 能力評価：専門家や敵対的な想定を用い、生物学・化学に関する支援が通常の情報検索を超えて危険な「上積み」をもたらすかを検証する。
• リスクに応じた安全策：高リスクのデュアルユース（平和利用と悪用の両方に転用できる）領域では、回答拒否、別の案内、機能制限を行う。一方で、低リスクの教育・健康・研究用途は可能な限り維持する。
• 段階的な提供：特に機微な能力は、誰にでも公開するのでなく、審査済みの利用者・組織に条件付きで提供する。
• 継続的な再調整：正当な質問を過剰に止める誤判定を減らしつつ、モデルの能力向上に合わせて分類器やアクセス規則を更新する。
• モデル外の防壁：悪用が物理的な行為に移る段階、とりわけ生物材料の調達を守る。

この考え方では、モデルの返答制限だけを唯一の防衛線とは見なしません。

Fable 5の事例：「止めすぎ」を減らしつつ、機微な用途は制限

AnthropicのFable 5における生物学向け安全対策の更新は、この難しさを示しています。同社は、製品群全体で生物学関連の「フォールバック」――質問を受けるモデルをより能力の低いモデルへ切り替える処理――を約85％削減したとしています。これにより、より幅広い生物学の質問を扱えるようにしたと説明しています。

ただし同社は、ウイルス学、毒物学、分子設計を含むデュアルユースと分類した依頼については、引き続きOpus 5へ切り替えるとしています。このため、こうした機微な領域の専門的な生物学研究や創薬には、Fable 5をまだ利用できないとしています。

重要なのは、すべての生物学の質問を止めることが安全とは限らない点です。過度に広い制限は、学習、臨床情報の理解、日常的な科学業務まで妨げかねません。逆に、すべてを無害と扱えば、機微な支援を見落とし得ます。安全策の精度を上げることは、規制緩和ではなく安全対策そのものです。

高度な能力は「審査済みの利用者」へ先に提供

Anthropicは、Mythosクラスのモデルにも限定アクセスを採っています。同社のMythosページによれば、Mythos 5.1は生物学とサイバーセキュリティで能力を向上させつつ、利用できるのは少数の審査済み組織に限られています。1

Mythos 5の発表時には、Fable 5と同じ基盤モデルを使いながら、一部の安全策を外したモデルだと説明されました。初期提供は、米政府との協力によるProject Glasswingを通じ、少数のサイバー防御組織とインフラ事業者に限定されました。7

もちろん、審査済みの利用者に限ればリスクが消えるわけではありません。利用記録、下流での使途管理、事故対応なども必要です。それでもこれは、「全面公開」か「一切使わせない」かという二択を超える試みです。高リスクの能力を、利用目的や監督の範囲がより明確な環境で先に運用する考え方といえます。

モデルのガードレールだけでは足りない理由

モデル側の安全策は、別のモデル、追加学習、不正取得された認証情報、外部ツールとの接続、複数の人やシステムで工程を分担する手法などによって、回避・弱体化される可能性があります。アクセス制限だけでバイオセキュリティが完結しないのはこのためです。

RANDは2026年の「防衛の深化（defense in depth）」に関する報告で、AIを利用した生物学的悪用を単一の安全策で防ぐことはできないと明言しています。同報告は、攻撃に至る経路の異なる段階や関係者に働きかける9つの介入策を示しました。

実務的には、少なくとも次の対策を組み合わせることになります。

1. モデルの能力評価と提供判断の基準
2. リスクに見合う制限と信頼できる利用者向けのアクセス制度
3. 必要に応じた顧客確認、監査可能性、報告の仕組み
4. 生物材料の取得に対する審査・監督
5. 感染症の早期検知、公衆衛生サーベイランス、対応能力の強化

一つの層に穴があっても、ほかの層が機能すれば被害につながる可能性を下げられます。

DNA・RNA合成の注文審査は、物理的な重要防壁

AIが提示したアイデアも、現実には材料の調達と実験活動へ移されなければ実行できません。そのため、核酸合成は重要な介入地点です。

米国AI安全研究所への意見書では、懸念されるDNA、RNA、タンパク質配列のデータベースを整備し、危険な注文を検知できるようにする案が提言されています。17 RANDも、米国の核酸合成スクリーニングの枠組みや、商業的な生物材料注文に対する業界の審査手法に言及しています。

有効な審査は、配列の一覧と照合するだけではありません。顧客確認、疑義のある注文の人手レビュー、エスカレーション手順、適用法令に沿った情報共有などを含み得ます。これらで全リスクを解消することはできませんが、危険な計算上の支援を物理的な能力へ変換するハードルを高めることはできます。

制約とともに、医療・防疫での便益も伸ばす

政策課題は、生物学AIを単純に抑え込むことではありません。同じ能力は、疾病監視、診断、医療対抗措置の開発、微生物フォレンジックにも役立つ可能性があります。

米Atlantic Councilの超党派バイオディフェンス委員会は2026年、Apollo Program for Biodefenseにおける16番目の技術優先事項としてAIを位置付けました。提言には、AIを活用した監視・診断、医療対抗措置、原因帰属、モデル評価・安全策、状況に適応する公衆衛生対応への投資が含まれます。

つまり、悪用の機会を小さくしながら、疾病への備えや医学研究を改善する可能性を残すことが、議論の中心になります。

結論：必要なのは一律禁止でも、拒否応答への過信でもない

一般向けチャットボットを、生物兵器を端から端まで作るための完成品の道具と見なす公的証拠はありません。しかし、政策当局やAI企業が見ている基準はそこではありません。より強力な科学AIが、一部の利用者に対して、生物学的な危険作業を進める能力の実質的な上積みを与える可能性に備えているのです。

有力な対応は、生物学を一律に禁止することでも、チャットボットの拒否だけに委ねることでもありません。利用リスクに応じたアクセス、厳格な評価、デュアルユース依頼への精密な安全策、そして危険な計画が現実に実行される物理的・公衆衛生上の層での防御を組み合わせることです。

科学分野のAIは、生物学、医療、創薬の研究を加速し得ます。一方で、モデルが高度化すれば、化学・生物学的な悪用に必要な知識、調整、試行錯誤の一部を容易にする懸念もあります。

そこで形になりつつあるのは、一律に利用を止める仕組みではありません。**モデルの能力評価、利用制限、監視、そして現実世界の実行段階にある防壁を重ねる「多層防御」**です。

問われているのは「役に立つほどの上積み」があるか

論点は、一般向けチャットボットが生物兵器の完成手順を一問一答で出せるか、だけではありません。より重要なのは、危険な計画を進める際の所要時間、専門技能、トラブル対応、複数工程の調整といった負担を、AIが実質的に下げてしまうかどうかです。

生物学的な危害は、文章を生成するだけで成立するものではありません。材料、設備、専門性、実行能力が必要です。基盤モデルと生物兵器リスクを扱ったワーキングペーパーも、単発のプロンプトではなく、技術的に難しい開発工程をAIがどこまで案内できるかを問題にしています。

AI企業が採り始めた対策：評価、精密な制限、段階的な提供

最先端モデルを開発する企業の安全対策は、おおむね次の方向に収れんしています。

• 能力評価：専門家や敵対的な想定を用い、生物学・化学に関する支援が通常の情報検索を超えて危険な「上積み」をもたらすかを検証する。
• リスクに応じた安全策：高リスクのデュアルユース（平和利用と悪用の両方に転用できる）領域では、回答拒否、別の案内、機能制限を行う。一方で、低リスクの教育・健康・研究用途は可能な限り維持する。
• 段階的な提供：特に機微な能力は、誰にでも公開するのでなく、審査済みの利用者・組織に条件付きで提供する。
• 継続的な再調整：正当な質問を過剰に止める誤判定を減らしつつ、モデルの能力向上に合わせて分類器やアクセス規則を更新する。
• モデル外の防壁：悪用が物理的な行為に移る段階、とりわけ生物材料の調達を守る。

この考え方では、モデルの返答制限だけを唯一の防衛線とは見なしません。

Fable 5の事例：「止めすぎ」を減らしつつ、機微な用途は制限

AnthropicのFable 5における生物学向け安全対策の更新は、この難しさを示しています。同社は、製品群全体で生物学関連の「フォールバック」――質問を受けるモデルをより能力の低いモデルへ切り替える処理――を約85％削減したとしています。これにより、より幅広い生物学の質問を扱えるようにしたと説明しています。

ただし同社は、ウイルス学、毒物学、分子設計を含むデュアルユースと分類した依頼については、引き続きOpus 5へ切り替えるとしています。このため、こうした機微な領域の専門的な生物学研究や創薬には、Fable 5をまだ利用できないとしています。

重要なのは、すべての生物学の質問を止めることが安全とは限らない点です。過度に広い制限は、学習、臨床情報の理解、日常的な科学業務まで妨げかねません。逆に、すべてを無害と扱えば、機微な支援を見落とし得ます。安全策の精度を上げることは、規制緩和ではなく安全対策そのものです。

高度な能力は「審査済みの利用者」へ先に提供

Anthropicは、Mythosクラスのモデルにも限定アクセスを採っています。同社のMythosページによれば、Mythos 5.1は生物学とサイバーセキュリティで能力を向上させつつ、利用できるのは少数の審査済み組織に限られています。1

Mythos 5の発表時には、Fable 5と同じ基盤モデルを使いながら、一部の安全策を外したモデルだと説明されました。初期提供は、米政府との協力によるProject Glasswingを通じ、少数のサイバー防御組織とインフラ事業者に限定されました。7

もちろん、審査済みの利用者に限ればリスクが消えるわけではありません。利用記録、下流での使途管理、事故対応なども必要です。それでもこれは、「全面公開」か「一切使わせない」かという二択を超える試みです。高リスクの能力を、利用目的や監督の範囲がより明確な環境で先に運用する考え方といえます。

モデルのガードレールだけでは足りない理由

モデル側の安全策は、別のモデル、追加学習、不正取得された認証情報、外部ツールとの接続、複数の人やシステムで工程を分担する手法などによって、回避・弱体化される可能性があります。アクセス制限だけでバイオセキュリティが完結しないのはこのためです。

RANDは2026年の「防衛の深化（defense in depth）」に関する報告で、AIを利用した生物学的悪用を単一の安全策で防ぐことはできないと明言しています。同報告は、攻撃に至る経路の異なる段階や関係者に働きかける9つの介入策を示しました。

実務的には、少なくとも次の対策を組み合わせることになります。

1. モデルの能力評価と提供判断の基準
2. リスクに見合う制限と信頼できる利用者向けのアクセス制度
3. 必要に応じた顧客確認、監査可能性、報告の仕組み
4. 生物材料の取得に対する審査・監督
5. 感染症の早期検知、公衆衛生サーベイランス、対応能力の強化

一つの層に穴があっても、ほかの層が機能すれば被害につながる可能性を下げられます。

DNA・RNA合成の注文審査は、物理的な重要防壁

AIが提示したアイデアも、現実には材料の調達と実験活動へ移されなければ実行できません。そのため、核酸合成は重要な介入地点です。

米国AI安全研究所への意見書では、懸念されるDNA、RNA、タンパク質配列のデータベースを整備し、危険な注文を検知できるようにする案が提言されています。17 RANDも、米国の核酸合成スクリーニングの枠組みや、商業的な生物材料注文に対する業界の審査手法に言及しています。

有効な審査は、配列の一覧と照合するだけではありません。顧客確認、疑義のある注文の人手レビュー、エスカレーション手順、適用法令に沿った情報共有などを含み得ます。これらで全リスクを解消することはできませんが、危険な計算上の支援を物理的な能力へ変換するハードルを高めることはできます。

制約とともに、医療・防疫での便益も伸ばす

政策課題は、生物学AIを単純に抑え込むことではありません。同じ能力は、疾病監視、診断、医療対抗措置の開発、微生物フォレンジックにも役立つ可能性があります。

米Atlantic Councilの超党派バイオディフェンス委員会は2026年、Apollo Program for Biodefenseにおける16番目の技術優先事項としてAIを位置付けました。提言には、AIを活用した監視・診断、医療対抗措置、原因帰属、モデル評価・安全策、状況に適応する公衆衛生対応への投資が含まれます。

つまり、悪用の機会を小さくしながら、疾病への備えや医学研究を改善する可能性を残すことが、議論の中心になります。

結論：必要なのは一律禁止でも、拒否応答への過信でもない

一般向けチャットボットを、生物兵器を端から端まで作るための完成品の道具と見なす公的証拠はありません。しかし、政策当局やAI企業が見ている基準はそこではありません。より強力な科学AIが、一部の利用者に対して、生物学的な危険作業を進める能力の実質的な上積みを与える可能性に備えているのです。

有力な対応は、生物学を一律に禁止することでも、チャットボットの拒否だけに委ねることでもありません。利用リスクに応じたアクセス、厳格な評価、デュアルユース依頼への精密な安全策、そして危険な計画が現実に実行される物理的・公衆衛生上の層での防御を組み合わせることです。