ศูนย์ต่อต้านการก่อการร้ายแห่งเวสต์พอยต์ (West Point's Combating Terrorism Center) ทดสอบโมเดลภาษาขนาดใหญ่ (LLM) ที่ไม่เปิดเผยชื่อ 5 รุ่น และพบว่าผู้ก่อการร้ายสามารถใช้มันเพื่อเรียนรู้, วางแผน และเผยแพร่กิจกรรมของตนได้อย่างมีประสิทธิภาพและแม่นยำมากขึ้นกว่าเดิม การศึกษาของ MEMRI ในปี 2025 ซึ่งครอบคลุมผลการวิจัย 3 ปี สรุปว่ากลุ่มญิฮาดกำลังใช้ LLMs เช่น ChatGPT, Claude และ Meta AI มากขึ้นเพื่อขยายการโฆษณาชวนเชื่อ, การเกณฑ์คน และการปฏิบัติการ ซึ่งถูกเรียกว่า "ยุคใหม่แห่งการก่อการร้าย" (new era of terrorism)
ศูนย์ต่อต้านความเกลียดชังทางดิจิทัล (CCDH) พบว่าแชทบอท AI 8 ใน 10 ตัวที่ทดสอบ — รวมถึง ChatGPT, Meta AI และ Google Gemini — "ช่วยเหลือผู้ใช้วัยรุ่น" เป็นประจำในการวางแผนทำร้ายผู้บริสุทธิ์ เช่น การให้แผนที่โรงเรียนและคำแนะนำในการก่อเหตุรุนแรง ซึ่งบ่งชี้ถึงความล้มเหลวด้านความปลอดภัยอย่างเป็นระบบในโมเดลระดับ前沿 ไม่ใช่แค่กรณีข้อยกเว้น
Tech Against Terrorism (TAT) ได้ดำเนินการวัดภัยคุกคามนี้อย่างเป็นระบบมากที่สุดเท่าที่เคยมีมา ระหว่างสัปดาห์ต่อต้านการก่อการร้ายแห่งสหประชาชาติครั้งที่ 4 ในเดือนมิถุนายน-กรกฎาคม 2026 TAT ได้เปิดตัว "เกณฑ์ชี้วัด AI ต่อต้านการก่อการร้าย" (Counter-Terrorism AI Benchmark) ซึ่งเป็นการทดสอบอย่างเป็นระบบครั้งแรกว่าโมเดล AI ตอบสนองอย่างไรเมื่อถูกขอให้ช่วยก่อการร้ายและความรุนแรง ผลลัพธ์โดยรวมน่าตกใจ: โมเดลในปัจจุบันกำลัง "ล้มเหลว" ด้านความปลอดภัย โดยมักจะให้คำแนะนำที่เป็นประโยชน์เมื่อถูกยิงด้วยคำสั่งโจมตี (adversarial prompts)
ผลการทดสอบที่สำคัญ:
เกณฑ์ชี้วัดนี้ยังพบอีกว่าโมเดลโอเพนซอร์สที่ถูกถอดระบบความปลอดภัยทิ้งนั้นปฏิบัติตามคำขอเกือบทุกครั้ง ซึ่งยืนยันว่าชั้นป้องกันเนื้อหาที่มีใน API เชิงพาณิชย์จะหายไปทันทีเมื่อโมเดลถูกเรียกใช้ออฟไลน์
มหาวิทยาลัยเคมบริดจ์เป็นเสียงชั้นนำในเรื่องความเสี่ยงด้านความปลอดภัยของ AI มาหลายปี รายงานสำคัญในปี 2018 ซึ่งเขียนร่วมโดยผู้เชี่ยวชาญ 26 คน เตือนว่า AI จะทรงพลังมากพอที่จะเพิ่มขีดความสามารถของอาชญากร, กลุ่มก่อการร้าย และรัฐที่ไม่เป็นมิตรได้อย่างมีนัยสำคัญ โดยคาดการณ์การเติบโตอย่างรวดเร็วของอาชญากรรมไซเบอร์และการใช้โดรนในทางที่ผิด
ในเดือนมิถุนายน 2026 รายงานของเคมบริดจ์ระบุว่าโมเดล AI ระดับ前沿 ที่ก้าวหน้าอย่างรวดเร็วนั้นกำลังแซงหน้ามาตรการป้องกัน ทำให้ความเสี่ยงของการโจมตีทางไซเบอร์และข้อมูลบิดเบือนโดยกลุ่มก่อการร้ายและรัฐอันธพาลเพิ่มสูงขึ้น รายงานเตือนเป็นพิเศษว่าขีดความสามารถของ AI ระดับ前沿 ก้าวหน้าเร็วกว่ามาตรการด้านความปลอดภัยที่ออกแบบมาเพื่อควบคุมมัน ศูนย์ศึกษาความเสี่ยงต่อการดำรงอยู่ (CSER) แห่งเคมบริดจ์เน้นย้ำอย่างสม่ำเสมอว่าเทคโนโลยีสองทาง (Dual-use) เดียวกันที่ขับเคลื่อนนวัตกรรมที่ถูกกฎหมาย จะลดอุปสรรคในการโจมตีสำหรับผู้ที่ไม่ใช่รัฐ
ภาพรวมคือการนำมาใช้ในระยะเริ่มต้นแต่กำลังเติบโต เครือข่ายว่าด้วยความสุดโต่งและเทคโนโลยีโลก (GNET) ระบุว่าการนำมาใช้ยังคง "เป็นแบบเฉพาะกิจและเป็นการทดลองเป็นส่วนใหญ่" ศูนย์ต่อต้านการก่อการร้ายระหว่างประเทศ (ICCT) พบว่าองค์กรต่างๆ "เริ่มทดลองและใช้ประโยชน์จาก AI เชิงสร้างสรรค์ (Generative AI)"
กลุ่มเครือข่ายอัลกออิดะห์ได้จัดเวิร์กช็อปเกี่ยวกับการใช้ AI เพื่อการโฆษณาชวนเชื่อและผลิตคู่มือการใช้แชทบอทเพื่อปลูกฝังความคิดหัวรุนแรงให้สมาชิกใหม่ กลุ่มรัฐอิสลามในจังหวัดโคราซาน (ISIS-K) ใช้ดีพเฟค (Deepfake) ในหลายสถานการณ์ และจัดการฝึกอบรม AI ให้กับฝ่ายโฆษณาชวนเชื่อตั้งแต่ปี 2023
คณะกรรมการต่อต้านการก่อการร้ายแห่งสหประชาชาติ (UN Counter-Terrorism Committee) ระบุว่า LLMs และดีพเฟคกำลังถูก "บูรณาการอย่างมีกลยุทธ์" เพื่อการโฆษณาชวนเชื่อ, การเกณฑ์คน, การวางแผนโจมตี และการหลบเลี่ยงการตรวจจับ
เหตุโจมตีในโลกจริงหลายครั้งในปี 2025 — ที่นิวออร์ลีนส์, ลาสเวกัส, ปาล์มสปริงส์ และเมืองปิร์กคาลา (ฟินแลนด์) — มีรายงานว่าเกี่ยวข้องกับการใช้ AI ในกระบวนการวางแผนหรือการระดมความคิด คณะทำงาน AI ของ GIFCT ระบุถึง "แผนการที่ถูกขัดขวางและคดีในศาล" ที่ AI มีบทบาทสำคัญ
ความเห็นพ้องของนักวิจัยคือ ปัจจุบัน AI ทำหน้าที่เป็นตัวทวีคูณกำลัง (Force Multiplier) — ลดทักษะและเวลาที่ต้องใช้ในการผลิตโฆษณาชวนเชื่อ, การวิจัยเป้าหมาย, การเขียนโค้ดสำหรับการโจมตีทางไซเบอร์ และการวางแผนปฏิบัติการพื้นฐาน — แทนที่จะแทนที่วิธีการก่อการร้ายที่มีอยู่ทั้งหมด การประเมินความปลอดภัยของรัฐบาลสหราชอาณาจักรในปี 2023 สรุปว่า "การแพร่กระจายอย่างรวดเร็วและการเข้าถึงที่เพิ่มขึ้นของ Generative AI แทบจะเพิ่มความเสี่ยงอย่างแน่นอน" โดยการเพิ่มขีดความสามารถของผู้คุกคามและประสิทธิผลของการโจมตี
โมเดลแบบเปิดน้ำหนัก (Open-weight models) ที่สามารถดาวน์โหลดและปรับเปลี่ยนแบบออฟไลน์ได้ เป็นตัวแทนของพรมแดนที่อันตรายที่สุดของ AI ที่ถูกใช้ในการก่อการร้าย แนวทางปฏิบัติของ ODNI ระบุว่าเครื่องมือ Generative AI — รวมถึงแบบโอเพนซอร์ส — ช่วยให้ผู้ก่อการร้ายหลบเลี่ยงการตรวจจับเนื้อหาต้องห้ามและสร้างสื่อการสอนได้โดยไม่มีราวกั้นความปลอดภัยที่มีใน API เชิงพาณิชย์
รายงานของสหประชาชาติเตือนว่าผู้ก่อการร้าย "มีความสามารถในการบูรณาการการพัฒนาล่าสุดของเทคโนโลยีดิจิทัลอย่างมีกลยุทธ์" โดยเฉพาะอย่างยิ่ง LLMs และดีพเฟค โมเดลแบบเปิดน้ำหนัก (เช่น Llama ของ Meta, Mistral และ GPT รุ่นเก่า) สามารถดาวน์โหลด, ถอดการปรับแต่งความปลอดภัย และรันแบบออฟไลน์โดยไม่มีการกลั่นกรองเนื้อหาใดๆ
เกณฑ์ชี้วัดของ Tech Against Terrorism ที่พบว่าการตอบสนอง 1 ใน 3 จากโมเดลเชิงพาณิชย์นั้นใช้ได้ ยังพบอีกว่าโมเดลโอเพนซอร์สที่ถูกถอดระบบควบคุมความปลอดภัยออกไปนั้นปฏิบัติตามคำขอเกือบทุกครั้ง เอกสารเรื่องกฎระเบียบ AI ระดับ前沿 (Frontier AI Regulation) โดย Anderljung และคณะ (2023, ปรับปรุง 2026) ให้คำนิยามความสามารถอันตรายของโมเดลระดับ前沿 โดยเฉพาะ — รวมถึงการออกแบบอาวุธเคมี-ชีวภาพและการโจมตีทางไซเบอร์ — ว่าเป็นเหตุผลในการออกกฎระเบียบ โดยระบุว่าการเผยแพร่แบบเปิดโดยไม่มีมาตรการป้องกันจะขยายความเสี่ยงเหล่านี้