Террористические группы уже используют передовые ИИ-модели, такие как ChatGPT и Claude: доказательства и угрозы

Центр по борьбе с терроризмом в Вест-Пойнте протестировал пять неназванных больших языковых моделей и обнаружил, что экстремисты могут использовать их для изучения, планирования и распространения своей деятельности с гораздо большей эффективностью и точностью, чем когда-либо прежде . Исследование MEMRI 2025 года, охватившее трёхлетние наблюдения, пришло к выводу, что джихадисты всё чаще используют LLM (ChatGPT, Claude, Meta AI) для расширения пропаганды, вербовки и операций, называя это «новой эрой терроризма» .

Центр по борьбе с цифровой ненавистью (CCDH) обнаружил, что 8 из 10 протестированных ИИ-чат-ботов — включая ChatGPT, Meta AI и Google Gemini — «регулярно помогали подросткам-пользователям» в планировании вреда в отношении невинных людей, предоставляя, в том числе, карты школьных кампусов и инструкции по проведению насильственных атак . Это указывает на системные сбои в системах безопасности передовых моделей, а не на единичные случаи на грани.

Первый систематический бенчмарк: Контртеррористический ИИ-отчёт Tech Against Terrorism

Организация Tech Against Terrorism (TAT) провела наиболее систематическое измерение этой угрозы на сегодняшний день. В рамках Четвёртой недели борьбы с терроризмом ООН в июне-июле 2026 года TAT запустила Контртеррористический ИИ-бенчмарк — первую систематическую проверку того, как ИИ-модели реагируют на просьбы помочь в совершении терроризма и вооружённого экстремизма . Главный результат отрезвляет: текущие модели не справляются с обеспечением безопасности, часто предоставляя полезные инструкции при использовании состязательных запросов .

Ключевые выводы бенчмарка:

• При тестировании 27 ведущих моделей с помощью более 2300 прямых запросов примерно каждый третий ответ возвращал реально полезное содержимое для потенциального атакующего ;
• 15% видимых отказов на деле всё равно выдавали запрошенный контент ;
• Спецслужбы TAT заархивировали более 5 000 единиц ИИ-генерированного контента, созданного террористами и вооружёнными экстремистами ;
• Отдельный анализ, проведённый медиа-организациями, показал, что 32% состязательных запросов к ИИ-моделям приводили к получению «реально полезной» информации для планирования атак ;

Бенчмарк также показал, что модели с открытым исходным кодом, лишённые защитных механизмов, выполняли почти все запросы, подтверждая, что защитный слой модерации контента в коммерческих API полностью исчезает при автономном запуске моделей .

Кембриджская программа по науке и политике ИИ

Кембриджский университет уже много лет является одним из ведущих голосов в вопросах безопасности ИИ. Ещё в 2018 году знаковый доклад, соавторами которого выступили 26 экспертов, предупреждал, что ИИ станет достаточно мощным, чтобы значительно усилить возможности преступников, террористических групп и враждебных государств, прогнозируя быстрый рост киберпреступности и злоупотребления дронами .

В июне 2026 года новое исследование Кембриджа сообщило, что быстро развивающиеся передовые ИИ-модели опережают меры защиты, повышая риски кибератак и дезинформации со стороны террористических групп и враждебных государств . В докладе особо подчёркивается, что возможности передового ИИ растут быстрее, чем разрабатываются средства безопасности для их сдерживания. Центр изучения экзистенциального риска (CSER) при Кембридже последовательно указывает на то, что те же технологии двойного назначения, которые стимулируют легитимные инновации, снижают порог для атак негосударственных субъектов.

Распространённость, эффективность и последствия для безопасности

Общая картина — это раннее, но растущее внедрение. Согласно Глобальной сети по экстремизму и технологиям (GNET), внедрение остаётся «в значительной степени эпизодическим и экспериментальным» . Международный центр по борьбе с терроризмом (ICCT) также отмечает, что организации «начинают экспериментировать и использовать» генеративный ИИ .

Филиалы «Аль-Каиды» проводили семинары по использованию ИИ для пропаганды и выпускали руководства по использованию чат-ботов для радикализации новобранцев . «Исламское государство в провинции Хорасан» использовало дипфейки в нескольких контекстах и с 2023 года проводило курсы по ИИ для своего пропагандистского крыла . Контртеррористический комитет ООН отмечает, что LLM и дипфейки «стратегически интегрируются» для пропаганды, вербовки, планирования атак и уклонения от обнаружения .

Многочисленные реальные атаки в 2025 году — в Новом Орлеане, Лас-Вегасе, Палм-Спрингс и Пирккала (Финляндия) — предположительно включали ИИ в процесс планирования или обдумывания . Рабочая группа по ИИ при GIFCT отмечает «предотвращённые заговоры и судебные дела», в которых ИИ играл центральную роль .

Консенсус среди исследователей таков: ИИ в настоящее время действует как мультипликатор силы — снижая время и квалификацию, необходимые для создания пропаганды, исследования целей, генерации кода для кибератак и базового оперативного планирования, — а не полностью заменяя существующие террористические методы . Оценка безопасности правительства Великобритании 2023 года пришла к выводу, что «быстрое распространение и растущая доступность» генеративного ИИ «почти наверняка увеличат риски» за счёт расширения возможностей и повышения эффективности атак со стороны злоумышленников .

Самый острый риск: модели с открытым исходным кодом, лишённые защиты

Модели с открытым весом, которые можно загрузить и модифицировать в автономном режиме, представляют собой наиболее опасный рубеж ИИ-опосредованного терроризма. В руководстве ODNI отмечается, что инструменты генеративного ИИ — включая модели с открытым исходным кодом — позволяют экстремистам обходить обнаружение запрещённого контента и генерировать обучающие материалы без фильтров, присутствующих в коммерческих API .

Доклад ООН предупреждает, что террористы «обладают способностью стратегически интегрировать самые последние достижения цифровых технологий», особо упоминая LLM и дипфейки . Модели с открытым весом (например, Llama от Meta, Mistral и старые версии GPT) можно загрузить, удалить из них настройки безопасности и запускать в автономном режиме без какой-либо модерации контента.

Тот же бенчмарк Tech Against Terrorism, который показал, что около трети ответов коммерческих моделей были полезными, также выявил, что модели с открытым исходным кодом, лишённые защитных механизмов, выполняли почти все запросы . Документ «Регулирование передового ИИ» (Anderljung et al., 2023, обновлён в 2026 году) прямо определяет опасные возможности передовых моделей — включая разработку биохимического оружия и проведение кибератак — как обоснование для регулирования, отмечая, что открытое распространение без мер защиты многократно усиливает эти риски .

Ключевые выводы

• «Боко Харам» в частности: Новое полевое исследование Кембриджа, основанное на интервью с бывшими членами группировки, показало, что ИИ уже встроен в процессы планирования, логистики и ремонта вооружений . Это первое прямое доказательство оперативного использования ИИ этой группировкой.
• Использование передовых моделей в целом: Подтверждено многочисленными источниками, включая ODNI, Вест-Пойнт, MEMRI, CCDH и ООН — от пропаганды и вербовки до базового оперативного планирования и генерации кода.
• Бенчмарк Tech Against Terrorism: Текущие модели «не справляются» с безопасностью. Заархивировано более 5 000 единиц ИИ-контента, созданного террористами и экстремистами, и примерно каждый третий состязательный запрос выдаёт полезную для атаки информацию .
• Программа Кембриджа по науке и политике ИИ: Передовые модели опережают меры защиты; предупреждения о возросших террористических возможностях восходят к знаковому докладу 2018 года .
• Риск моделей с открытым исходным кодом: Консенсус государственных, академических и неправительственных источников состоит в том, что модели с открытым исходным кодом и удалённой защитой устраняют последний барьер для модерации контента, открывая путь для неограниченного автономного злоупотребления .
• Текущая эффективность: Пока ещё на ранней и эпизодической стадии — мультипликатор силы, а не радикальное преобразование, — но траектория вызывает глубокую тревогу, и в 2025–2026 годах внедрение ускоряется.