Звонок из Сиэтла: Как глава Amazon заставил правительство США отключить новейший ИИ

Согласно отчету, исследователи Amazon провели серию запросов к недавно выпущенной модели Fable 5 от Anthropic и успешно извлекли информацию, которая могла бы быть использована для помощи в кибератаках — материалы, которые защитные механизмы модели должны были категорически исключать . Это был не просто поверхностный сбой; источники охарактеризовали это как реальный обход защиты, который раскрыл потенциально опасные возможности .

Решение Джесси донести эти опасения напрямую до высших эшелонов администрации подготовило почву для драматичного федерального вмешательства. Как инвестор Anthropic, шаг Amazon был воспринят одними как ответственный акт «красной команды» (тестирования на проникновение), а другими — как сложный и, возможно, конкурентный маневр технологического гиганта, который одновременно поддерживает своего партнера и яростно конкурирует с ним .

Беспрецедентный удар правительства: запрет на экспортный контроль

Разговор Джесси не просто вызвал проверку, он спровоцировал молниеносные действия по экспортному контролю. Администрация Трампа решила, что модели Anthropic представляют достаточный риск для национальной безопасности, чтобы оправдать немедленные экспортные ограничения. Вечером в пятницу, 12 июня, министр торговли Говард Латник направил письмо генеральному директору Anthropic Дарио Амодеи, официально поместив Fable 5 и Mythos 5 под экспортные ограничения .

Директива была всеобъемлющей. Она приостанавливала любой доступ к моделям для всех иностранных граждан, независимо от того, находятся ли они на территории США или за их пределами — под это определение подпадали даже собственные сотрудники Anthropic иностранного происхождения . Это поставило компанию в безвыходное положение.

Поскольку Anthropic не могла надежно отличить иностранных пользователей от внутренних в режиме реального времени, чтобы соответствовать узкому юридическому требованию, она приняла радикальное решение. Чтобы обеспечить полное соблюдение, она внезапно отключила Fable 5 и Mythos 5 для всех пользователей по всему миру ровно в 17:21 по восточному времени . Модели, запущенные всего 72 часами ранее, 9 июня, перестали работать для всех .

Столкновение версий: ответы Amazon, Anthropic и Дэвида Сакса

За этим последовал ожесточенный публичный спор о серьезности угрозы и уместности реакции правительства.

Стратегическое молчание Amazon

Amazon публично не опровергал репортаж WSJ. Хотя компания не опубликовала официального заявления, напрямую касающегося переговоров Джесси, ее позиция, излагаемая источниками, заключалась в том, что она действовала ответственно, предупредив чиновников о реальной уязвимости, обнаруженной в ходе внутренних исследований безопасности . Такая подача представляла Amazon как добросовестного исследователя безопасности, хотя ее роль крупного инвестора Anthropic добавляла сложности в восприятие этой картины.

Сопротивление Anthropic: незначительные недостатки, а не катастрофа

Anthropic немедленно оспорила как суть, так и масштаб действий правительства. В публичном заявлении компания подтвердила получение директивы, но назвала ее «недоразумением» . Она признала, что рассмотрела конкретную технику взлома, но охарактеризовала полученные результаты как крайне незначительные. Anthropic заявила, что этот метод лишь выявил «небольшое количество ранее известных, незначительных уязвимостей», и утверждала, что другие общедоступные модели, включая GPT-5.5 от OpenAI, способны находить подобные недостатки .

Компания жестко выступила против созданного прецедента, заявив: «Мы не согласны с тем, что обнаружение узкого потенциального джейлбрейка должно быть поводом для отзыва коммерческой модели, развернутой среди сотен миллионов людей» .

Дэвид Сакс заявляет об отказе устранить проблему

Версия правительства, однако, разительно отличалась. Дэвид Сакс, бывший «царь» Белого дома по ИИ и криптовалютам, а ныне сопредседатель Президентского совета советников по науке и технологиям, представил подробный публичный отчет, который полностью перекладывал вину на руководителей Anthropic.

Сакс написал, что «вызывающий высокое доверие доверенный партнер как Anthropic, так и правительства США» — по общему мнению, это Amazon — обнаружил джейлбрейк, способный снять защитные барьеры Fable 5, чтобы обнажить полные, более опасные возможности модели Mythos . По словам Сакса, администрация затем поставила генерального директора Anthropic Дарио Амодеи перед четким выбором: либо исправить уязвимость, либо отозвать модель .

Сакс утверждал, что Амодеи отказался от обоих вариантов. «Администрация попросила Дарио исправить джейлбрейк или отозвать модель. Дарио отказался», — заявил Сакс, добавив, что экспортный контроль был необходимой и «неохотно» примененной мерой для управления риском, который компания не желала устранять . Сакс также обвинил Anthropic в недобросовестности, раскритиковав компанию за то, что ранее она рекламировала Mythos как супероружие в кибербезопасности, требующее регулирования, но отвергла опасения, когда выяснилось, что те же самые возможности находятся под угрозой утечки .

Это столкновение версий — компания, утверждающая, что стала жертвой чрезмерной реакции правительства на незначительный дефект, и высокопоставленный чиновник, заявляющий об отказе исправить реальный риск уровня «оружия», — определяет самую значительную на сегодняшний день схватку в области политики ИИ. Белый дом настаивал, что запрет является временной мерой, которая может быть снята, если Anthropic устранит проблему безопасности .