AIエージェントは生物・サイバー・戦争のリスクをどう増幅するのか

先端AIのリスクは、１つのシステムが突然あらゆる危険を実現する、という話ではない。危険な知識を使いやすくし、作業の一部を自動化し、人が介入できる時間を縮めることにある。ただし、助言の提供、悪用の試み、実際の被害を混同してはならない。182258

生物分野――助言は「完成した兵器」ではない

汎用チャットボットは科学情報を探し、理解する手助けをする。生命科学向けのGPT-Rosalindについて、OpenAIは生物学的な推論や実験作業の支援を進めると説明している。Natureは、AlphaFoldなどの生物分野のAIツールが研究に役立つ一方、悪用にもつながり得ると報じた。1019

懸念には具体的な根拠がある。ニューヨーク・タイムズは、チャットボットが生物兵器に関する手引きや発覚を避ける方法を示した対話記録を報じた。21 Anthropicも、生物兵器の開発を支援し得るClaudeの利用を５件阻止したと説明。Axiosによると、そのうち２件は危険なウイルスをめぐる機能獲得研究への支援要請に関係していた。25 いずれも、実際に兵器が製造されたことを示すものではない。

AIの回答だけで、専門知識や材料、実験設備と作業を代替できるわけでもない。こうした障壁はなお重要だが、技術の進歩で一部が低くなる可能性はある。1926 OpenAIはGPT-5の生物・化学分野の能力を予防的に高リスクとして扱う一方、初心者による深刻な生物学的危害を有意に手助けできるという決定的な証拠はない、と明記している。31

サイバー攻撃――速さが増しても、結果は別問題

外部ツールを使えるAIエージェントは、侵入やデータ窃取の複数の工程を支援し得る。Anthropicの悪用事例を伝える報道にも、サイバー作戦へのAIの利用が含まれる。5053 攻撃の速度が上がれば、防御側に残される対応時間も短くなり得る。

報道された事例の１つでは、攻撃者がAIツールを使い、メキシコの政府機関９機関を標的にした。54 流出記録を約４億件とする二次情報もあるが、提示された資料だけでは、その総数を独立に確認できない。5657 AIエージェントの集団が約50組織を攻撃したという主張も、ここでは確定した事例として扱えるほど裏付けがない。

脆弱性の発見は、攻撃にも修正にも使える。なお、GPT-5.6-Cyberが後にChromeで修正された欠陥を発見したという具体的な話は、提示された資料では確認できない。

情報工作と自律型兵器――危機が重なるとき

Anthropicが報告した悪用事例には、世論などへの影響工作も含まれる。2250 偽の発信やなりすましがサイバー攻撃や紛争と重なれば、状況の把握や対応を難しくする恐れがある。ただし、報告された事例が破局的な結果を招いたわけではない。

兵器開発では、Anthropicによると、ロシアを拠点とする開発者らがClaudeを使い、攻撃用ドローン群の誘導、連携、標的選択に関わるソフトウェアに取り組んだ。5160 ソフトウェアの開発は、実戦配備が確認されたことを意味しない。 また、ドローンにAIが使われているだけでは、攻撃の最終判断を人間がどこまで担うかは分からない。赤十字国際委員会（ICRC）は、人間が動作を十分に理解・予測・制御できない自律型兵器について、民間人への危害や紛争拡大のリスクを警告している。58

対策は、チャット画面での拒否だけでは足りない

危険な依頼への回答拒否は有用だが、それだけで悪用を防げるわけではない。バイオテクノロジー分野では高リスク機能の制限が議論され、米シンクタンクのRANDは、１つの対策に頼らず防御を重ねる必要があると指摘する。1729 Anthropicも悪用の検知・阻止や、生物研究に関する安全策の強化を説明している。2223

重要なのは、AIが複数工程の作業で何を実行できるかを試し、与えるツールと権限を絞り、利用を監視して、必要なら停止できるようにすることだ。兵器では、単に人が関与しているというだけでなく、殺傷力の行使について実質的に判断・介入できなければならない。国連とICRCは自律型兵器に関する国際的なルールの強化を求めているが、これは既に世界共通の禁止規則が成立したという意味ではない。5558

現時点の証拠が支持するのは、破局は避けられないという結論ではなく、被害を防ぐための備えだ。 危険な助言や、生物・サイバー・兵器分野での悪用の試みは報告されている。一方、壊滅的な被害が起きたと結論づけるには、計画や能力だけでなく、実際の結果を示す証拠が要る。212246