Как приказ правительства США заставил Anthropic отключить новейший ИИ для всего мира

«Суть этого приказа в том, что мы вынуждены экстренно отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы гарантировать его исполнение», — говорится в заявлении, опубликованном компанией в официальном блоге и на платформе X . Доступ к другим ИИ-моделям, включая популярный чат-бот Claude, при этом не пострадал .

Что насторожило правительство

Опасения властей связаны с тем, что чиновники назвали «уязвимостями для джейлбрейка» и способностью моделей к проведению автономных исследований в области кибербезопасности . Согласно имеющимся данным, правительство предоставило лишь устные свидетельства о потенциально узком и не универсальном способе обхода ограничений: достаточно попросить нейросеть проанализировать конкретный программный код и исправить в нём уязвимости .

Вероятно, тревогу властей невольно подогрели собственные предупреждения Anthropic о рисках безопасности. Ранее компания признавала, что её самая мощная модель Mythos 5, предназначенная для ограниченного использования, создаёт значительные киберриски, из-за чего Белый дом даже готовил специальные меры защиты для федеральных агентств, получивших особый доступ . Fable 5 вышла в публичный доступ за несколько дней до запрета как «безопасная» версия, обученная отклонять вредоносные запросы, однако оперативные действия властей показывают, что правительство не сочло эти меры достаточными .

Это первый случай, когда федеральное правительство США присвоило конкретной большой языковой модели статус угрозы национальной безопасности и применило правило «условного экспорта», чтобы ограничить доступ к ней даже для иностранных специалистов, работающих на американской земле . Министр торговли Говард Латник лично уведомил главу Anthropic Дарио Амодея о введении экспортного контроля специальным письмом .

Почему приказ ударил по сотрудникам самой компании

Ключевой особенностью директивы, сделавшей полное отключение неизбежным, стало распространение запрета на персонал Anthropic. Чиновники прямо указали, что ограничения распространяются на «всех иностранных граждан внутри или за пределами США, включая иностранных сотрудников компании» .

Это означает, что даже исследователи и инженеры, участвующие в проекте Glass Wing — внутренней инициативе Anthropic по изучению передовых рисков — не имеющие американского гражданства или статуса постоянного жителя (грин-карты), лишились доступа к разработкам . Так как запрет начал действовать в стенах самой компании, Anthropic не могла просто ограничить внешних пользователей и продолжать внутреннюю работу. Единственным способом полного соблюдения требований стало глобальное отключение моделей до выработки технических или юридических решений .

Этот случай стал показательным примером распространения американского законодательства об экспортном контроле на сферу искусственного интеллекта, уравняв передовые нейросети с оружием или чувствительными оборонными технологиями. Правила «условного экспорта» означают, что передача контролируемой технологии иностранцу на территории США юридически приравнивается к её вывозу за рубеж .

Реакция Anthropic: «Это недоразумение»

Компания оперативно подчинилась, но дала понять, что категорически не согласна с решением Вашингтона. «Мы считаем это недоразумением и работаем над тем, чтобы восстановить доступ как можно скорее», — заявили в Anthropic .

В представители компании подчеркнули, что предоставленные правительством «доказательства» джейлбрейка были узконаправленными и не носили системного характера, предположив, что власти переоценивают практические риски . Пока же в компании пообещали сохранить доступ ко всем остальным моделям семейства Claude и продолжить переговоры о возвращении Fable 5 и Mythos 5 в строй .

На данный момент не имеющий аналогов в истории ИИ-индустрии приказ остается в силе, а две самые мощные модели, когда-либо выведенные из публичного доступа по соображениям нацбезопасности, остаются недоступными. Как долго это продлится и какой прецедент создаст для других компаний, занимающихся передовым ИИ, — станет центральной темой на следующем этапе стремительно накаляющейся дискуссии о том, кто и как должен иметь право использования самых совершенных систем искусственного интеллекта.