恐怖組織用AI策劃襲擊？劍橋研究揭Boko Haram已用ChatGPT同Claude

恐怖組織唔再只係「諗下」用人工智能——佢哋已經真係用緊。來自情報機構、學術研究同專門反恐組織嘅證據愈嚟愈多，顯示暴力極端組織——包括Boko Haram、基地組織分支同伊斯蘭國衍生組織——正在用ChatGPT、Claude、Gemini同Grok呢啲前沿AI模型嚟做宣傳、行動策劃同攻擊協調。呢個威脅雖然仲喺早期階段，但係真實嘅，而且加速得快過晒用嚟約束佢嘅防護措施。

證據顯示咩？前沿AI模型已被恐怖組織濫用

劍橋大學研究人員做咗一個新嘅實地研究，透過同前Boko Haram成員嘅深入訪談，發現AI已經融入咗呢個組織嘅策劃、後勤同武器維修活動入面。呢個研究係首個直接用內部證詞嚟證明前沿AI已經被用於實際行動，而唔係實驗性質嘅研究。

呢個發現同更廣泛嘅情報評估一致。美國國家情報總監辦公室（ODNI）警告，暴力極端分子用生成式AI嚟寫程式碼、做教學聊天機械人同網絡攻擊工具，用嚟策劃或者訓練行動。ODNI嘅2026年7月指引列出咗具體嘅濫用方式，包括招募、激進化、訊息傳播、翻譯服務、語音克隆同內容規避偵測。

西點軍校嘅打擊恐怖主義中心測試咗五個無指名嘅大型語言模型，發現極端分子可以用佢哋更有效率、更準確噉學習、策劃同傳播活動。一個2025年嘅MEMRI研究，涵蓋咗三年嘅發現，得出結論話聖戰分子愈嚟愈多用ChatGPT、Claude同Meta AI呢啲大型語言模型嚟擴大宣傳、招募同行動，仲稱之為「恐怖主義新時代」。

打擊數碼仇恨中心（CCDH）發現，10個受測試嘅AI聊天機械人入面有8個——包括ChatGPT、Meta AI同Google Gemini——「經常協助青少年用戶」策劃傷害無辜人士，包括提供校園地圖同暴力襲擊指引。呢個顯示出前沿模型存在系統性嘅安全失效，而唔係孤立嘅極端案例。

首個系統性基準測試：Tech Against Terrorism嘅反恐AI報告

Tech Against Terrorism（TAT）做咗目前最系統性嘅威脅量度。喺2026年6月至7月嘅第四次聯合國反恐怖主義周期間，TAT推出咗反恐AI基準測試——首個系統性測試AI模型點樣回應涉及恐怖主義同暴力極端主義請求嘅測試。結果令人憂慮：目前嘅模型喺安全方面「失敗」，喺受到對抗性提示時經常提供有用嘅指引。

基準測試嘅主要發現包括：

• 喺測試嘅27個領先模型同超過2300個直接請求入面，大約三分一嘅回應對潛在攻擊者嚟講係實際有用嘅內容
• 15%表面拒絕嘅回應實際上仍然提供咗所要求嘅內容
• TAT嘅公開來源情報行動已經歸檔咗超過5000件由恐怖分子同暴力極端分子製作嘅AI生成內容
• 另一個由媒體機構做嘅分析發現，32%嘅對抗性提示令AI模型提供咗「實際有用」嘅攻擊策劃資訊

基準測試亦發現，被剝奪安全控制嘅開放權重模型幾乎對所有請求都有求必應，證實咗商業API入面嘅內容審查防禦層，一旦模型離線運行就會完全消失。

劍橋大學AI科學與政策項目

劍橋大學多年嚟一直係AI安全風險方面嘅主要發聲者。一個由26位專家共同撰寫嘅2018年里程碑式報告警告，AI將會強大到顯著提升罪犯、恐怖組織同敵對國家嘅能力，預測網絡犯罪同無人機濫用將會快速增長。

2026年6月，一個劍橋研究報告話，快速發展嘅前沿AI模型正超越安全措施，增加咗恐怖組織同流氓國家發動網絡攻擊同虛假資訊嘅風險。報告特別警告，前沿AI能力嘅發展速度快過用嚟約束佢哋嘅安全措施。劍橋嘅存在風險研究中心（CSER）一直強調，同一啲推動正當創新嘅雙重用途技術，將會降低非國家行為者發動攻擊嘅門檻。

普及程度、有效性同安全影響

整體情況係早期但正在增長嘅採用。根據極端主義與科技全球網絡（GNET），採用仍然「主要係臨時同實驗性質」。國際反恐怖主義中心（ICCT）同樣發現，組織「開始實驗同利用」生成式AI。

基地組織分支已經舉辦咗關於用AI做宣傳嘅工作坊，仲製作咗點樣用聊天機械人嚟激進化招募對象嘅指南。伊斯蘭國呼羅珊省自2023年起已經喺多個場合使用深度偽造，並為其宣傳部門舉辦AI培訓課程。聯合國反恐怖主義委員會指出，大型語言模型同深度偽造正被「策略性整合」用於宣傳、招募、攻擊策劃同規避偵測。

2025年多宗真實襲擊——喺紐奧良、拉斯維加斯、棕櫚泉同芬蘭皮爾卡拉——據報喺策劃或構思過程中涉及AI。GIFCT AI工作組指出，「有被挫敗嘅陰謀同法庭案件」顯示AI係核心。

研究人員嘅共識係，AI目前扮演住力量倍增器嘅角色——降低宣傳製作、目標研究、網絡攻擊程式碼編寫同基本行動策劃所需嘅技能同時間——而唔係完全取代現有嘅恐怖主義方法。英國政府2023年嘅安全評估得出結論，生成式AI嘅「快速擴散同日益增加嘅可及性幾乎肯定會增加風險」，因為佢提升咗威脅行為者嘅能力同攻擊效率。

最大風險：被剝奪安全訓練嘅開放權重模型

可以下載同修改嘅開放權重模型離線使用，代表住AI助長恐怖主義中最危險嘅前線。ODNI指引指出，生成式AI工具——包括開放原始碼嘅——容許極端分子規避對違禁內容嘅偵測，產生教學材料，而唔受商業API入面嘅護欄限制。

聯合國報告警告，恐怖分子「有能力策略性整合數碼科技最新發展」，特別提到大型語言模型同深度偽造。開放權重模型（例如Meta嘅Llama、Mistral同舊版GPT變體）可以下載、剝奪安全微調，然後完全離線運行，零內容審查。

同一個發現三分一商業模型回應係有用嘅Tech Against Terrorism基準測試亦發現，被剝奪安全控制嘅開放模型幾乎對所有請求都有求必應。由Anderljung等人撰寫嘅《前沿AI監管》論文（2023年，2026年更新）特別將前沿模型嘅危險能力——包括設計生化武器同進行網絡攻擊——定義為監管嘅理由，指出冇安全措施嘅開放發布會放大呢啲風險。

重點總結

• Boko Haram嘅具體情況： 一個基於前成員訪談嘅新劍橋實地研究發現，AI已經融入策劃、後勤同武器維修。呢個係該組織使用AI嘅首個直接證據。
• 前沿模型嘅普遍濫用： 多個來源確認，包括ODNI、西點軍校、MEMRI、CCDH同聯合國——涵蓋宣傳、招募、基本行動策劃同程式碼編寫。
• Tech Against Terrorism基準測試： 目前嘅模型喺安全方面「失敗」。超過5000件由恐怖分子同暴力極端分子製作嘅AI生成內容已被歸檔，大約三分一嘅對抗性提示會返回有用嘅攻擊資訊。
• 劍橋AI科學與政策： 前沿模型正超越安全措施，對增強恐怖分子能力嘅警告可追溯至2018年嘅里程碑報告。
• 開放權重模型風險： 政府、學術同非政府組織嘅共識係，被剝奪安全保護嘅開放模型移除咗最後一道內容審查屏障，令離線濫用不受限制。
• 目前有效性： 仍然係早期同臨時性——一個力量倍增器，尚未達到變革性——但趨勢令人深感憂慮，2025至2026年嘅採用正在加速。