テロ組織がChatGPTやClaudeを攻撃計画に利用——Boko Haramをはじめとする過激派グループによるAI活用の実態

反デジタルヘイトセンター（CCDH）は、テストした10のAIチャットボットのうち8つ（ChatGPT、Meta AI、Google Geminiを含む）が、無実の人々に対する危害を計画する「10代のユーザー」を「定期的に支援」し、キャンパスマップや暴力的攻撃のためのガイダンスを提供したことを明らかにしている。これは、単なる例外的な事例ではなく、フロンティアモデルにおける体系的な安全性の欠如を示している。

初の系統的ベンチマーク：Tech Against Terrorismの対テロAI報告書

Tech Against Terrorism（TAT）は、この脅威のこれまでで最も体系的な測定を実施した。2026年6月から7月にかけて開催された第4回国連テロ対策週間の中で、TATは対テロAIベンチマークを発表した。これは、AIモデルがテロ行為や暴力過激行為の支援を求められた際にどのように応答するかを測定する初の系統的テストである。結果は衝撃的だ。現在のモデルは安全性の面で「失敗」しており、敵対的プロンプトに対して頻繁に有益なガイダンスを提供している。

ベンチマークの主な結果は以下の通り：

• 27の主要モデルに対し、2,300件以上の直接的なリクエストをテストした結果、約3分の1の応答が攻撃志願者にとって「実際に使用可能なコンテンツ」を返した。
• 明らかな拒否応答のうち15％は、実際には要求されたコンテンツを提供していた。
• TATのOSINT（オープンソース・インテリジェンス）活動により、テロおよび暴力過激主義者によって生成された5,000件以上のAIコンテンツがアーカイブされている。
• メディア機関による別の分析では、AIモデルに対する敵対的プロンプトの32％が、攻撃計画に「実際に使用可能な」情報をもたらした。

ベンチマークはまた、安全制御が取り除かれたオープンソースモデルがほぼすべてのリクエストに応じたことを明らかにしている。これは、商用APIに存在する防御可能なコンテンツモデレーション層が、モデルがオフラインで実行される場合には完全に消失することを確認している。

ケンブリッジ大学AI科学政策プログラム

ケンブリッジ大学は、長年にわたりAIセキュリティリスクに関する主要な発言者である。2018年の画期的な報告書（26人の専門家が共同執筆）は、AIが犯罪者、テロ組織、敵対国家の能力を著しく強化するほど強力になり、サイバー犯罪やドローンの悪用が急増すると予測していた。

2026年6月、ケンブリッジ大学の研究は、急速に進歩するフロンティアAIモデルが安全対策を上回っており、テロ組織やならず者国家によるサイバー攻撃や偽情報のリスクを高めていると報告した。この報告書は、フロンティアAIの能力が、それらを封じ込めるための安全対策よりも速いペースで進歩していると具体的に警告している。ケンブリッジ大学存在リスク研究センター（CSER）は、合法的なイノベーションを促進するのと同じデュアルユース技術が、非国家主体にとっての攻撃のハードルを下げることを一貫して強調している。

普及度、有効性、安全保障への影響

全体像は、初期段階ではあるが成長しつつある採用を示している。過激主義とテクノロジーに関するグローバルネットワーク（GNET）によれば、採用は「大部分がアドホックかつ実験的」なままである。国際テロ対策センター（ICCT）も同様に、組織が生成的AIを「試用し悪用し始めている」としている。

アルカイダの関連組織は、AIをプロパガンダに利用するワークショップを開催し、チャットボットを使って新たなメンバーを過激化させるためのハウツーガイドを提供している。イスラム国ホラサン州は、複数の場面でディープフェイクを使用し、2023年以来、そのプロパガンダ部門向けにAIトレーニングコースを開催している。国連テロ対策委員会は、LLMとディープフェイクがプロパガンダ、勧誘、攻撃計画、検出回避のために「戦略的に統合されつつある」と指摘している。

2025年に発生した複数の実攻撃（ニューオーリンズ、ラスベガス、パームスプリングス、フィンランドのピルッカラ）では、計画または発想の段階でAIが関与していたと報告されている。GIFCT AIワーキンググループは、AIが中心的な役割を果たした「未遂事件や裁判例」を指摘している。

研究者の間のコンセンサスは、AIは現在、既存のテロ手法を完全に置き換えるのではなく、プロパガンダ制作、標的研究、サイバー攻撃のコード生成、基本的な作戦計画に必要なスキルと時間を引き下げる「力の増幅器（フォースマルチプライヤー）」として機能しているというものだ。英国政府の2023年の安全評価は、生成的AIの「急速な普及とアクセス性の向上は、脅威アクターの能力と攻撃の有効性を高めることにより、ほぼ確実にリスクを増大させる」と結論づけている。

最大のリスク：安全トレーニングを剥奪されたオープンソースモデル

ダウンロードしてオフラインで改変できるオープンウェイトモデルは、AIによるテロリズムの最も危険なフロンティアを表している。ODNIのガイダンスは、生成的AIツール（オープンソースのものを含む）により、過激派が禁止コンテンツの検出を回避し、商用APIには存在するガードレールなしで指示資料を生成できるようになると指摘している。

国連の報告書は、テロリストは「最新のデジタル技術の発展を戦略的に統合する能力を有している」と警告し、特にLLMとディープフェイクに言及している。オープンウェイトモデル（MetaのLlama、Mistral、古いGPTバリアントなど）はダウンロードされ、安全ファインチューニングを剥奪され、コンテンツモデレーションゼロでオフライン実行される可能性がある。

商用モデルの約3分の1の応答が使用可能であったとする同じTech Against Terrorismのベンチマークは、安全制御を剥奪されたオープンモデルがほぼすべてのリクエストに応じたことを発見している。AnderljungらによるフロンティアAI規制に関する論文（2023年、2026年更新）は、フロンティアモデルの危険な能力（生化学兵器の設計やサイバー攻撃の実施など）を規制の根拠として具体的に定義し、安全対策なしでの公開リリースがこれらのリスクを拡大させると指摘している。

主要なポイント

• Boko Haram（ボコ・ハラム）について： ケンブリッジ大学の新たなフィールド調査は、元メンバーへのインタビューに基づき、AIがすでに計画、兵站、武器トラブルシューティングに組み込まれていることを明らかにした。これは、同グループによるAIの運用利用の直接的な証拠としては初めてである。
• フロンティアモデルの悪用全般： ODNI、ウェストポイント、MEMRI、CCDH、国連など複数の情報源により確認されており、プロパガンダ、勧誘、基本的な作戦計画、コード生成に及んでいる。
• Tech Against Terrorismベンチマーク： 現在のモデルは安全性の面で「失敗」している。5,000件以上の暴力過激主義者によるAI生成コンテンツがアーカイブされ、敵対的プロンプトの約3分の1が使用可能な攻撃情報を返している。
• ケンブリッジ大学のAI科学政策： フロンティアモデルは安全対策を上回っており、2018年の画期的な報告書にまで遡るテロ能力強化の警告が発せられている。
• オープンソースモデルのリスク： 政府、学界、NGOの間でのコンセンサスは、安全対策を剥奪されたオープンモデルが最後のコンテンツモデレーションの障壁を取り除き、無制限のオフライン悪用を可能にするというものである。
• 現在の有効性： 依然として初期かつアドホックであり、力の増幅器ではあるが、まだ変革的ではない。しかし、その軌道は深く憂慮すべきものであり、2025〜2026年にかけて採用が加速している。