ШІ під замком: чому США наказали відключити Fable 5 і Mythos 5 для всього світу

«Загальним наслідком цього наказу є те, що ми мусимо раптово відключити Fable 5 і Mythos 5 для всіх наших клієнтів, щоб гарантувати його виконання», — заявили в компанії у своєму офіційному блозі та на платформі X . Доступ до інших моделей ШІ, зокрема до широко використовуваного чат-бота Claude, залишається без змін .

Що спровокувало дії уряду

Занепокоєння уряду щодо національної безпеки зосереджені на тому, що чиновники назвали «вразливостями до джейлбрейку» та потенційною здатністю моделей до проведення автономних досліджень у сфері кібербезпеки . Згідно з повідомленнями, уряд надав лише усні свідчення потенційного вузького, неуніверсального «джейлбрейку» — по суті, способу попросити модель прочитати певну кодову базу та виправити вразливості в програмному забезпеченні .

Власні попередження Anthropic щодо безпеки своїх моделей могли мимоволі сприяти тривозі уряду. Раніше компанія визнавала, що Mythos 5, її найпотужніша модель, призначена для обмеженого використання, становить значні кібербезпекові ризики. Це призвело до того, що Білий дім встановив спеціальні заходи захисту для федеральних агенцій, яким надали окремий доступ . Fable 5 була випущена публічно лише за кілька днів до заборони, позиціонуючись як безпечніша версія, навчена відхиляти шкідливі запити. Однак швидкі дії уряду свідчать про те, що він не був переконаний у достатності цих запобіжників .

Це перший випадок в історії, коли уряд США класифікував конкретну велику мовну модель як загрозу національній безпеці та застосував правила «умовного експорту» (deemed-export), щоб обмежити доступ навіть для іноземців, які працюють на території США . Міністр торгівлі Говард Латнік особисто повідомив про запровадження експортного контролю генеральному директору Anthropic Даріо Амодею в офіційному листі .

Безпрецедентне охоплення власних співробітників

Саме поширення директиви на персонал Anthropic зробило дотримання вимог настільки абсолютним. Урядовці чітко зазначили, що заборона стосується «будь-якого іноземного громадянина, незалежно від того, чи перебуває він у США, чи за кордоном, включаючи іноземних співробітників компанії Anthropic» .

Це означало, що навіть дослідники та інженери, які працюють над проєктом «Glass Wing» — внутрішньою ініціативою Anthropic з безпеки передових технологій — і які не є громадянами або постійними резидентами США, не мали права доступу до цих моделей . Оскільки обмеження діяло навіть у стінах самої компанії, Anthropic не могла просто обмежити зовнішній доступ і продовжити внутрішню розробку. Єдиним шляхом до виконання вимог було повне глобальне відключення до моменту, поки не буде знайдено технічні чи юридичні рішення .

Цей епізод є драматичним прикладом застосування законодавства США про експортний контроль до штучного інтелекту, коли передові моделі розглядаються майже як зброя або чутливі оборонні технології. Правила «умовного експорту» означають, що передача контрольованої технології іноземному громадянину всередині США юридично прирівнюється до її експорту за кордон .

Відповідь Anthropic: це «непорозуміння»

Anthropic швидко виконала вимоги, але чітко дала зрозуміти, що, на її думку, уряд помиляється. «Ми вважаємо, що це непорозуміння, і працюємо над якнайшвидшим відновленням доступу», — заявили в компанії в офіційному повідомленні .

Компанія наголосила, що отримані нею докази «джейлбрейку» були вузькими та не універсальними, припускаючи, що уряд може переоцінювати практичні ризики . Тим часом компанія пообіцяла зберегти роботу всіх інших моделей Claude, поки тривають переговори щодо відновлення доступу до Fable 5 і Mythos 5 .

Наразі безпрецедентний наказ залишається в силі, і дві найпотужніші моделі ШІ, коли-небудь вилучені з публічного доступу з міркувань національної безпеки, залишаються «вимкненими». Як довго це триватиме та який прецедент це створить для інших компаній, що розробляють передовий ШІ, стане наступним розділом у стрімкій дискусії про те, хто має право користуватися найпотужнішими системами штучного інтелекту.