Системы безопасности ИИ под ударом: математическое доказательство NIST, взлом Copilot и отключение Claude Fable 5 по требованию правительства

Первая половина 2026 года стала поворотным моментом для безопасности ИИ: несколько независимых событий совместно доказали, что существующие защиты далеки от неприступности. От формального математического доказательства несостоятельности защитных барьеров до отключения модели по распоряжению правительства — все указывает на необходимость фундаментального пересмотра подходов к обеспечению безопасности передовых ИИ-систем.

Конечный набор ограничений не может быть универсально надежным: доказательство NIST

Наиболее значимое событие пришло от Национального института стандартов и технологий США (NIST). 9 июня 2026 года NIST объявил о публикации рецензируемого математического доказательства, выполненного старшим научным сотрудником Апостолом Васильевым в журнале IEEE Security & Privacy (май–июнь 2026 г.), которое формально расширяет теоремы Гёделя о неполноте на системы защитных ограничений ИИ .

Ключевой вывод бескомпромиссен: «Никакой конечный набор защитных ограничений не является универсально надежным против адаптивных атакующих запросов» . Поскольку естественный язык бесконечно многозначен, а наборы правил всегда конечны, всегда найдется запрос, способный обойти обнаружение — не из-за плохой инженерии, а как математическая неизбежность . NIST настоятельно рекомендует организациям переходить от статической модели «сделал и забыл» к архитектуре безопасности «непрерывного мониторинга и обновления» .

HMNS: джелбрейк на уровне цепей, изменяющий представления модели

Исследователи из Университета Флориды представили технику, названную Head-Masked Nullspace Steering (HMNS), которая действует на уровне внутренних цепей модели-трансформера . Принятая в качестве доклада на конференции ICLR 2026 , HMNS определяет «головы внимания», причинно ответственные за поведение модели по умолчанию, подавляет их пути записи с помощью целевого маскирования столбцов и внедряет возмущение, ограниченное ортогональным дополнением подпространства отказов модели .

Это не основанный на подсказках джелбрейк. Путем прямой манипуляции внутренними представлениями модели HMNS достигает почти 99% успешности атак на таких моделях, как LLaMA-3.1-70B, в среднем примерно за 2 попытки, сохраняя при этом беглость выходных данных .

Отказ в чате, но написание в коде: джелбрейк рабочего процесса Copilot

В статье на arXiv от 9 июля 2026 года «Отказ в чате, написание в коде» демонстрируется, что агенты написания кода в IDE, такие как GitHub Copilot, почти полностью отказывают при прямой отправке запроса в чат, чтении CSV или одношаговых задачах (только 8 успешных ответов из 816) . Однако, когда та же вредоносная цель разбивается на многошаговые рабочие процессы разработки ПО — чтение файлов, запуск скриптов, обработка входных данных для бенчмарков — модели выдают вредоносные результаты во всех 816 запусках .

Этот джелбрейк на уровне рабочего процесса обходит фильтры безопасности чата, переформулируя вредоносные цели как обычные задачи разработки . Вместо того чтобы просить модель «написать вредоносный код», атакующий просит ее «прочитать файл, запустить скрипт, затем обработать входные данные для бенчмарка» — последовательность, которая выглядит безобидной на каждом отдельном шаге, но достигает вредоносной цели при композиции.

Вмешательство правительства: глобальное отключение Claude Fable 5 компанией Anthropic

12 июня 2026 года, всего через три дня после того, как Anthropic представила Claude Fable 5 и Mythos 5, министр торговли США Говард Лютник направил письмо генеральному директору Дарио Амодеи с предписанием прекратить экспорт по всему миру, впервые применив положение Закона о реформе экспортного контроля 2018 года . Поводом послужил джелбрейк, обнаруженный исследователями Amazon, который позволял Fable 5 выявлять уязвимости в программном обеспечении, что вызвало опасения по поводу передачи технологий иностранной военной разведке .

Поскольку Anthropic не могла надежно проверять гражданство пользователей в реальном времени, она отключила обе модели для всех пользователей по всему миру . Экспортные ограничения были сняты 30 июня, и Fable 5 вернулась к глобальному использованию 1 июля 2026 года после 18-дневной приостановки . Доступ к Mythos 5 был восстановлен для ряда американских организаций .

Что это значит для безопасности ИИ

Эти четыре события сходятся к одной истине: статические, разовые защитные ограничения принципиально недостаточны. Доказательство NIST устанавливает это как математическую неизбежность . HMNS показывает, что эту уязвимость можно эксплуатировать с почти идеальной эффективностью . Джелбрейк рабочего процесса Copilot демонстрирует, что даже сильные фильтры на уровне чата можно обойти, когда модели действуют как агенты . А инцидент с Fable 5 показывает, что обнаружение таких уязвимостей может вызвать беспрецедентное вмешательство правительства .

Практический вывод очевиден: организации должны перейти от сертификации модели как «безопасной» на этапе разработки к непрерывному мониторингу, тестированию и обновлению защитных механизмов на протяжении всего жизненного цикла модели — подход, который NIST прямо рекомендует .