टेक अगेंस्ट टेररिज़्म (TAT) ने इस खतरे का सबसे व्यवस्थित मापन किया है। चौथे संयुक्त राष्ट्र आतंकवाद-विरोधी सप्ताह के दौरान जून-जुलाई 2026 में, TAT ने काउंटर-टेररिज्म AI बेंचमार्क लॉन्च किया - यह पहली व्यवस्थित परीक्षण प्रणाली है जो यह मापती है कि AI मॉडल आतंकवाद और हिंसक उग्रवाद में मदद मांगे जाने पर कैसे प्रतिक्रिया देते हैं ।
बेंचमार्क के मुख्य निष्कर्ष इस प्रकार हैं:
बेंचमार्क ने यह भी पाया कि ओपन-सोर्स मॉडल, जिन्हें उनके सुरक्षा नियंत्रणों से अलग कर दिया गया है, लगभग हर अनुरोध का अनुपालन करते हैं, जो पुष्टि करता है कि वाणिज्यिक API में मौजूद सुरक्षा की परत ऑफलाइन चलाए जाने पर पूरी तरह से गायब हो जाती है ।
कैम्ब्रिज विश्वविद्यालय वर्षों से AI सुरक्षा जोखिमों पर एक अग्रणी आवाज रहा है। 2018 की एक ऐतिहासिक रिपोर्ट, जिसमें 26 विशेषज्ञों ने भाग लिया था, ने चेतावनी दी थी कि AI आपराधिकों, आतंकवादी समूहों और शत्रु राज्यों की क्षमताओं को काफी हद तक बढ़ाने के लिए पर्याप्त शक्तिशाली हो जाएगा, जिसमें साइबर अपराध और ड्रोन के दुरुपयोग में तेजी से वृद्धि का पूर्वानुमान लगाया गया था ।
जून 2026 में प्रकाशित कैम्ब्रिज के एक अन्य अध्ययन ने बताया कि तेजी से उन्नत हो रहे फ्रंटियर AI मॉडल सुरक्षा उपायों से आगे निकल रहे हैं, जिससे आतंकवादी समूहों और शरारतपूर्ण राज्यों द्वारा साइबर हमलों और दुष्प्रचार के जोखिम बढ़ रहे हैं ।
ग्लोबल नेटवर्क ऑन एक्सट्रीमिज्म एंड टेक्नोलॉजी (GNET) के अनुसार, AI को अपनाना अभी भी "काफी हद तक तदर्थ और प्रयोगात्मक" बना हुआ है । इंटरनेशनल सेंटर फॉर काउंटर-टेररिज्म (ICCT) ने पाया है कि संगठन "जनरेटिव AI के साथ प्रयोग करना और उसका शोषण करना शुरू कर रहे हैं"
।
अल-कायदा से संबद्ध समूहों ने प्रचार के लिए AI के उपयोग पर कार्यशालाएं आयोजित की हैं और कट्टरपंथी भर्ती के लिए चैटबॉट का उपयोग करने के लिए मार्गदर्शिकाएँ तैयार की हैं । खुरासान प्रांत में इस्लामिक स्टेट ने कई सेटिंग्स में डीपफेक का उपयोग किया है और 2023 से अपने प्रचार विंग के लिए AI प्रशिक्षण पाठ्यक्रम आयोजित किए हैं
।
ओपन-वेट मॉडल जिन्हें डाउनलोड और ऑफलाइन संशोधित किया जा सकता है, AI-सक्षम आतंकवाद का सबसे खतरनाक क्षेत्र हैं। ODNI का मार्गदर्शन नोट करता है कि जनरेटिव AI उपकरण - जिनमें ओपन-सोर्स वाले भी शामिल हैं - चरमपंथियों को प्रतिबंधित सामग्री का पता लगाने से बचने और वाणिज्यिक API में मौजूद सुरक्षा उपायों के बिना निर्देशात्मक सामग्री उत्पन्न करने की अनुमति देते हैं ।
संयुक्त राष्ट्र की रिपोर्ट ने चेतावनी दी कि आतंकवादियों के पास "डिजिटल प्रौद्योगिकी में सबसे हाल के विकास को रणनीतिक रूप से एकीकृत करने की क्षमता है", जिसमें LLMs और डीपफेक का विशेष उल्लेख है ।