Як Білий дім і Anthropic розробляють єдину систему оцінювання вразливостей ШІ

Суперечка про те, що вважати небезпечним джейлбрейком

Безпосереднім приводом для експортних обмежень став зафіксований джейлбрейк — метод обходу захисних бар'єрів моделі. Однак дві сторони кардинально розійшлися в оцінці його серйозності.

• Позиція Anthropic: CEO Даріо Амодеї під час екстрених дзвінків з посадовцями стверджував, що джейлбрейк був «вузьким» та «неуніверсальним» — не системним обходом, який можна було б широко використовувати. Компанія заявила, що уряд надав лише «усні докази потенційного вузького, неуніверсального джейлбрейку» . «Ми не погодилися з тим, що виявлення вузького потенційного джейлбрейку має бути причиною для відкликання комерційної моделі», — заявили в Anthropic у блозі .
• Позиція уряду: Білий дім вважав, що будь-який продемонстрований обхід захисних бар'єрів на моделі з передовими кібернаступальними можливостями — Fable 5 була частково розроблена для виявлення вразливостей програмного забезпечення — є неприйнятним ризиком для національної безпеки, особливо якщо моделі залишаються доступними для іноземних супротивників .

Суперечка швидко загострилася. За численними повідомленнями, Амодеї різко відкидав занепокоєння адміністрації під час дзвінків, описуючи їх як непорозуміння, і в певний момент переговори майже повністю зірвалися .

Білий дім визначив Fable 5 як тестовий кейс для нових запобіжників у рамках виконавчого указу про ШІ, координуючи дії Міністерства торгівлі, Міністерства фінансів і самого Білого дому . Адміністрація побоювалася, що можливості моделей можуть надати Китаю доступ до інструментів кібербезпеки та інших небезпечних технологій подвійного призначення .

Від конфронтації до переговорів: створення єдиної рамки відповідності

За лічені дні після кризи з експортним контролем Білий дім та Anthropic перейшли від конфронтації до структурованих переговорів . 17 квітня 2026 року Амодеї зустрівся з представниками Білого дому на переговорах, які описують як продуктивні мирні перемовини — перший контакт на високому рівні після попередніх тертя між Anthropic та Пентагоном .

Серед ключових фігур подальших обговорень на високому рівні — міністр торгівлі США Говард Лутнік, національний директор з кібербезпеки Шон Кернкросс та співзасновник Anthropic Том Браун . Адміністрація координувала дії Міністерства торгівлі, Міністерства фінансів та Білого дому в рамках тестового кейсу Fable 5 .

Центральним проектом, що виник у результаті цих переговорів, є єдина рамка відповідності для оцінювання серйозності вразливостей безпеки — особливо джейлбрейків — у передових моделях ШІ . Рамка призначена для створення спільних орієнтирів для визначення того, чи виправдовує дефект безпеки втручання уряду .

Єдина система градації: три критерії

Основою зусиль є єдина система градації джейлбрейків. Хоча офіційні позначки (наприклад, «Критичний», «Високий», «Середній», «Низький») або детальна рубрика ще не оприлюднені, повідомляється, що рамка оцінює вразливості за трьома критеріями оцінки ризику :

1. Обійдені захисти — Які захисні бар'єри (наприклад, конституційні класифікатори, фільтри реального часу) були подолані.
2. Відкриті небезпечні можливості — Які небезпечні можливості моделі (наприклад, кібернапади, біологічне керівництво, хімічний синтез) стали доступними.
3. Реальний вплив — Наскільки легко джейлбрейк можна використати в масовому масштабі та якою може бути шкода.

Мета уряду — використовувати цю систему градації для встановлення чітких, попередньо визначених порогів ризику, які автоматично визначатимуть, чи запроваджувати експортний контроль, вимагати пом'якшення наслідків або блокувати розгортання, а не діяти ad hoc після кризи .

Стратегічна мета уряду: перехід від реактивного до заснованого на правилах

Загальною метою уряду є перехід від реактивного, кризового втручання до системи, заснованої на правилах . Спільно розробляючи рамку градації та пороги ризику з Anthropic, Білий дім прагне:

• Створити передбачуваність для лабораторій ШІ щодо того, що спричиняє дії уряду.
• Встановити спільну термінологію для опису серйозності вразливостей.
• Уникнути майбутніх сценаріїв, коли модель публічно розгортають, а потім раптово вимикають через експортний контроль, як це сталося з Fable 5 та Mythos 5.

Ключова невизначеність: Жодних детальних критеріїв, обсягу або термінів для рамки публічно не оприлюднено. Три критерії оцінки ризику (обійдені захисти, відкриті небезпечні можливості, реальний вплив) були повідомлені кількома виданнями, але конкретна методологія оцінювання залишається невідомою .

Ширший контекст G7

Розробка рамки США та Anthropic відбувається на тлі обговорень стандартів безпеки ШІ в країнах G7. G7 працює над гармонізацією міжнародних орієнтирів для оцінювання ризиків передового ШІ . Очікується, що єдина система градації, яку будують Білий дім і Anthropic, впливатиме на ці ширші багатосторонні переговори та буде ними збагачена, хоча конкретні результати G7 ще обговорюються .

Що далі

Розробка рамки знаменує значний поворот у політиці США щодо ШІ. Лише за кілька днів до експортних обмежень Амодеї опублікував програмне есе, в якому стверджував, що уряди повинні мати обов'язкові законні повноваження блокувати або скасовувати розгортання передових моделей ШІ, які не пройшли незалежне тестування безпеки . Криза 12 червня несподівано поставила цей принцип на конфронтаційне випробування.

Ключове відкрите питання: як визначити межу між вузькою, керованою вразливістю та системним ризиком, що виправдовує урядове втручання. Відповідь визначить не лише майбутні релізи Anthropic, але й ширший регуляторний ландшафт для розробки передового ШІ.