Biały Dom i Anthropic budują system oceny bezpieczeństwa AI. W tle – kontrole eksportowe i spór o „jailbreak”

Spór o to, czym jest niebezpieczny jailbreak

Bezpośrednim powodem kontroli eksportowych był zgłoszony jailbreak – metoda na ominięcie zabezpieczeń modeli. Strony ostro różniły się jednak w ocenie jego powagi.

• Stanowisko Anthropica: CEO Dario Amodei podczas pilnych rozmów z urzędnikami argumentował, że jailbreak był "wąski" i "nieuniwersalny" – nie stanowił systemowego obejścia, które można by szeroko wykorzystać. Firma publicznie stwierdziła, że rząd przedstawił jedynie "ustne dowody na potencjalny, wąski, nieuniwersalny jailbreak" . "Nie zgodziliśmy się, że znalezienie wąskiego potencjalnego jailbreaka powinno być powodem do wycofania komercyjnego modelu" – napisał Anthropic w poście na blogu .
• Stanowisko rządu: Biały Dom uznał, że każde udowodnione obejście zabezpieczeń w modelu o zaawansowanych zdolnościach cyberofensywnych – Fable 5 był częściowo zaprojektowany do identyfikowania luk w oprogramowaniu – stanowi niedopuszczalne ryzyko dla bezpieczeństwa narodowego, szczególnie jeśli modele pozostają dostępne dla zagranicznych rywali .

Spór szybko eskalował. Według wielu doniesień, Amodei stanowczo oponował podczas rozmów telefonicznych z urzędnikami, określając obawy rządu jako nieporozumienie. W pewnym momencie negocjacje prawie się załamały .

Biały Dom wyznaczył Fable 5 jako przypadek testowy dla nowych zabezpieczeń wynikających z rozporządzenia wykonawczego w sprawie AI, koordynując działania Departamentu Handlu, Skarbu i samego Białego Domu . Administracja obawiała się, że możliwości modeli mogą umożliwić Chinom dostęp do narzędzi cyberbezpieczeństwa ofensywnego i innych niebezpiecznych technologii podwójnego zastosowania .

Od konfrontacji do negocjacji: budowa jednolitego systemu zgodności

W ciągu kilku dni od kryzysu kontroli eksportu Biały Dom i Anthropic przeszli od konfrontacji do ustrukturyzowanych negocjacji . 17 kwietnia 2026 r. Amodei spotkał się z urzędnikami Białego Domu w trakcie rozmów określanych jako produktywne rozmowy o zawieszeniu broni – był to pierwszy kontakt na wysokim szczeblu od wcześniejszych tarć między Anthropicem a Pentagonem .

Kluczowe postacie w późniejszych rozmowach na wysokim szczeblu to: sekretarz handlu USA Howard Lutnick, krajowy dyrektor ds. cyberbezpieczeństwa Sean Cairncross oraz współzałożyciel Anthropica, Tom Brown . Administracja koordynowała działania Departamentu Handlu, Skarbu i Białego Domu w ramach przypadku testowego Fable 5 .

Głównym projektem, który wyłonił się z tych rozmów, jest jednolity system zgodności do oceny powagi luk w zabezpieczeniach – w szczególności jailbreaków – w zaawansowanych modelach AI . Ma on stworzyć wspólne punkty odniesienia do oceny, czy wada bezpieczeństwa uzasadnia interwencję rządu .

Jednolity system oceniania: trzy kryteria

Centralnym elementem prac jest jednolity system oceniania jailbreaków. Chociaż nie opublikowano jeszcze oficjalnych etykiet (np. "Krytyczny", "Wysoki", "Średni", "Niski") ani szczegółowego schematu, system podobno ocenia podatności według trzech kryteriów oceny ryzyka :

1. Ominięte zabezpieczenia – które mechanizmy ochronne (np. klasyfikatory konstytucyjne, filtry czasu rzeczywistego) zostały pokonane.
2. Ujawnione możliwości – jakie niebezpieczne możliwości modelu (np. cyberofensywa, wskazówki biologiczne, synteza chemiczna) stały się dostępne.
3. Realny wpływ – jak łatwo jailbreak może być wykorzystany na masową skalę i jakie szkody może wyrządzić.

Celem rządu jest wykorzystanie tego systemu ocen do ustalenia jasnych, z góry określonych progów ryzyka, które automatycznie decydowałyby o nałożeniu kontroli eksportowych, konieczności zastosowania środków łagodzących lub zablokowaniu wdrożenia – zamiast działać ad hoc po kryzysie .

Cel strategiczny rządu: od reaktywnego do opartego na zasadach

Nadrzędnym celem administracji jest przejście od reaktywnej, kryzysowej interwencji do systemu opartego na zasadach . Współtworząc z Anthropicem system ocen i progi ryzyka, Biały Dom chce:

• Zapewnić przewidywalność dla laboratoriów AI – wiedzą, co może wywołać działania rządu.
• Ustanowić wspólną terminologię do opisywania powagi podatności.
• Uniknąć w przyszłości scenariuszy, w których model jest publicznie wdrażany, a następnie nagle wyłączany na mocy kontroli eksportowych – jak miało to miejsce w przypadku Fable 5 i Mythos 5.

Kluczowa niewiadoma: Nie opublikowano szczegółowych kryteriów, zakresu ani harmonogramu prac nad systemem. Trzy kryteria oceny ryzyka (ominęte zabezpieczenia, ujawnione możliwości, realny wpływ) zostały podane przez wiele źródeł, ale konkretna metodologia punktacji nie jest znana .

Kontekst w grupie G7

Prace nad amerykańsko-anthropicowym systemem odbywają się na tle dyskusji w G7 na temat standardów bezpieczeństwa AI. G7 pracuje nad zharmonizowaniem międzynarodowych benchmarków do oceny ryzyka związanego z zaawansowaną AI . Oczekuje się, że jednolity system ocen budowany przez Biały Dom i Anthropica będzie stanowił wkład w te szersze rozmowy wielostronne – i będzie przez nie kształtowany, choć konkretne wyniki negocjacji w G7 wciąż są przedmiotem ustaleń .

Co dalej

Opracowywanie tego systemu oznacza znaczący zwrot w polityce USA wobec AI. Zaledwie kilka dni przed kontrolami eksportowymi Amodei opublikował esej polityczny, w którym argumentował, że rządy powinny mieć prawo do blokowania lub cofania wdrożenia zaawansowanych modeli AI, które nie przejdą niezależnych testów bezpieczeństwa . Kryzys z 12 czerwca wystawił tę zasadę na nieoczekiwanie trudną próbę.

Kluczowe pytanie pozostaje otwarte: jak wytyczyć granicę między wąską, możliwą do opanowania podatnością a systemowym ryzykiem uzasadniającym interwencję rządu. Odpowiedź ukształtuje nie tylko przyszłe premiery Anthropica, ale i szerszy krajobraz regulacyjny dla rozwoju zaawansowanej AI.