Инцидент с Fable 5 изменил правила: Белый дом и Anthropic создают единую систему оценки уязвимостей ИИ

Спор о том, что считать опасным джейлбрейком

Непосредственным поводом для введения экспортных ограничений стал сообщённый джейлбрейк — метод обхода защитных барьеров модели. Однако стороны резко разошлись в оценке его серьёзности.

• Позиция Anthropic: Генеральный директор Дарио Амодей в ходе экстренных переговоров с чиновниками доказывал, что джейлбрейк был «узким» и «неуниверсальным» — то есть не позволял системно обходить защиту. Компания публично заявила, что правительство предоставило лишь «устные свидетельства о потенциально узком, неуниверсальном джейлбрейке» . «Мы не согласны с тем, что обнаружение узкого потенциального джейлбрейка должно быть причиной для отзыва коммерческой модели», — говорилось в блоге Anthropic .
• Позиция правительства: Белый дом посчитал, что любой доказанный обход защитных барьеров на модели, обладающей продвинутыми возможностями в сфере кибератак (Fable 5 была частично предназначена для поиска уязвимостей в ПО), представляет неприемлемую угрозу национальной безопасности, особенно если модель остаётся доступной для иностранных противников .

Разногласия быстро переросли в острую фазу. Согласно многочисленным сообщениям, Амодей резко возражал в телефонных разговорах с представителями администрации, называя их опасения недопониманием, и в какой-то момент переговоры едва не сорвались .

Белый дом назначил Fable 5 пробным камнем для новых правил, установленных указом об ИИ, координируя усилия Минторга, Минфина и самого Белого дома . Администрация опасалась, что возможности моделей могут предоставить Китаю доступ к инструментам кибербезопасности и другим опасным технологиям двойного назначения .

От конфликта к переговорам: создание единой системы соблюдения требований

В течение нескольких дней после кризиса с экспортным контролем Белый дом и Anthropic перешли от конфронтации к структурированным переговорам . 17 апреля 2026 года Амодей встретился с чиновниками Белого дома — эти переговоры были описаны как продуктивные мирные переговоры, первые на высоком уровне после предыдущих трений между Anthropic и Пентагоном .

Ключевые фигуры в последующих обсуждениях высокого уровня включают министра торговли США Говарда Лутника, национального директора по кибербезопасности Шона Кэрнкросса и соучредителя Anthropic Тома Брауна . Администрация координирует действия Министерств торговли, финансов и Белого дома в рамках «теста» на Fable 5 .

Главный проект, возникший в ходе этих переговоров, — единая система соблюдения требований для оценки серьёзности уязвимостей безопасности, особенно джейлбрейков, в моделях frontier AI . Система призвана создать общие критерии для определения того, оправдывает ли дефект безопасности вмешательство правительства .

Единая система оценок: три критерия

Ключевой элемент этой работы — единая шкала оценки джейлбрейков. Хотя официальных названий уровней (например, «Критический», «Высокий», «Средний», «Низкий») или подробной методологии пока не опубликовано, сообщается, что система оценивает уязвимости по трём критериям оценки риска :

1. Обойдённые защиты — какие защитные барьеры (например, конституционные классификаторы, фильтры реального времени) были преодолены.
2. Раскрытые возможности — какие опасные возможности модели (например, кибернападение, биологические руководства, химический синтез) стали доступны.
3. Реальное влияние — насколько легко джейлбрейк может быть использован в масштабе и какой вред может причинить.

Цель правительства — использовать эту систему оценок для установления чётких, заранее определённых порогов риска, которые будут автоматически определять, следует ли вводить экспортные ограничения, требовать смягчения последствий или блокировать развёртывание, а не действовать методом ad hoc после кризиса .

Стратегическая цель правительства: от реактивных мер к системе правил

Основная задача правительства — перейти от реактивного, кризисного вмешательства к системе, основанной на правилах . Совместно разрабатывая с Anthropic систему оценок и пороги риска, Белый дом стремится:

• Обеспечить предсказуемость для ИИ-лабораторий в отношении того, какие действия правительства могут быть предприняты.
• Установить единую терминологию для описания серьёзности уязвимости.
• Избежать в будущем сценариев, когда модель публично развёртывается, а затем внезапно отключается из-за экспортного контроля — как это произошло с Fable 5 и Mythos 5.

Ключевая неопределённость: Ни детальные критерии, ни объём, ни сроки разработки системы пока не опубликованы. Сообщается о трёх критериях оценки, но конкретная методология подсчёта баллов не раскрыта .

Контекст G7

Разработка американо-антропической системы проходит на фоне обсуждения стандартов безопасности ИИ в G7. «Большая семёрка» работает над согласованием международных критериев оценки рисков frontier AI . Ожидается, что единая система оценок, создаваемая Белым домом и Anthropic, будет как опираться на эти многосторонние переговоры, так и влиять на них, хотя конкретные результаты G7 ещё обсуждаются .

Что дальше

Разработка этой системы знаменует собой значительный поворот в политике США в области ИИ. Всего за несколько дней до введения экспортных ограничений Амодей опубликовал политическое эссе, в котором утверждал, что правительства должны иметь обязательную законную власть блокировать или отменять развёртывание моделей frontier AI, не прошедших независимое тестирование безопасности . Кризис 12 июня поставил этот принцип перед неожиданно жёсткой проверкой.

Главный вопрос, который остаётся открытым: как определить грань между узкой, управляемой уязвимостью и системным риском, требующим вмешательства правительства. Ответ определит не только будущие релизы Anthropic, но и общий регуляторный ландшафт для разработки передового ИИ.