Jak ostrzeżenie CEO Amazona wywołało pierwszy w historii USA zakaz na najpotężniejszą AI Anthropica

Według doniesień, badacze Amazona przeprowadzili serię testów na nowo wydanym modelu Anthropica, Fable 5, i z powodzeniem wydobyli z niego informacje, które mogłyby zostać wykorzystane do przeprowadzenia cyberataków – materiał, przed którego udostępnieniem zabezpieczenia modelu miały wyraźnie chronić . Nie była to tylko powierzchowna usterka; źródła scharakteryzowały to jako faktyczne ominięcie zabezpieczeń, które ujawniło potencjalnie niebezpieczne możliwości .

Decyzja Jassy'ego, by przedstawić te obawy bezpośrednio na najwyższych szczeblach administracji, przygotowała grunt pod dramatyczną federalną interwencję. Jako inwestor Anthropica, posunięcie Amazona zostało odebrane przez jednych jako odpowiedzialny akt testowania zabezpieczeń (tzw. red-teaming), a przez innych jako złożony, być może konkurencyjny, manewr ze strony technologicznego giganta, który zarówno wspiera swojego partnera, jak i zaciekle z nim konkuruje .

Bezprecedensowy „młot" rządowy: Zakaz kontroli eksportu

Rozmowa Jassy'ego nie tylko wywołała kontrolę; zapoczątkowała błyskawiczną akcję w ramach kontroli eksportu. Administracja Trumpa uznała, że modele Anthropica stanowią wystarczające ryzyko dla bezpieczeństwa narodowego, by objąć je natychmiastowymi restrykcjami eksportowymi. Wieczorem w piątek, 12 czerwca, sekretarz handlu Howard Lutnick wysłał list do CEO Anthropica, Dario Amodei, formalnie obejmując Fable 5 i Mythos 5 ograniczeniami eksportowymi .

Dyrektywa była szeroko zakrojona. Zawieszała dostęp do modeli dla wszystkich obcokrajowców, zarówno w Stanach Zjednoczonych, jak i poza ich granicami – definicja ta obejmowała nawet własnych pracowników Anthropica urodzonych za granicą . Postawiło to firmę w sytuacji bez wyjścia.

Ponieważ Anthropic nie był w stanie wiarygodnie odróżnić w czasie rzeczywistym użytkowników zagranicznych od krajowych, by zastosować się do wąskiego prawnego nakazu, dokonał drastycznego wyboru. Aby zapewnić pełną zgodność, firma gwałtownie wyłączyła dostęp do Fable 5 i Mythos 5 dla wszystkich użytkowników na całym świecie dokładnie o godzinie 17:21 czasu wschodniego . Modele, które zadebiutowały zaledwie 72 godziny wcześniej, 9 czerwca, stały się niedostępne dla wszystkich .

Starcie narracji: Jak zareagowały Amazon, Anthropic i David Sacks

To, co nastąpiło później, to zaciekły publiczny spór o wagę zagrożenia i stosowność reakcji rządu.

Strategiczne milczenie Amazona

Amazon publicznie nie zaprzeczył doniesieniom "WSJ". Chociaż firma nie wydała formalnego oświadczenia odnoszącego się bezpośrednio do rozmów Jassy'ego, jej stanowisko, cytowane przez źródła, było takie, że działała odpowiedzialnie, alarmując urzędników o rzeczywistej luce w zabezpieczeniach, którą odkryła podczas wewnętrznych badań nad bezpieczeństwem . To ujęcie przedstawiało Amazon jako badacza bezpieczeństwa działającego w dobrej wierze, choć jego rola jako głównego inwestora Anthropica nadawała całej sytuacji bardziej złożony wydźwięk.

Odpowiedź Anthropica: Drobne wady, a nie katastrofa

Anthropic natychmiast zakwestionował zarówno istotę, jak i skalę działań rządu. W publicznym oświadczeniu firma potwierdziła otrzymanie dyrektywy, ale nazwała ją "nieporozumieniem" . Przyznała, że dokonała przeglądu konkretnej techniki jailbreaku, ale scharakteryzowała jej wyniki jako wyjątkowo nieznaczne. Anthropic stwierdził, że metoda ta pozwoliła jedynie zidentyfikować "niewielką liczbę wcześniej znanych, drobnych podatności" i argumentował, że inne publicznie dostępne modele, w tym GPT-5.5 OpenAI, były w stanie znaleźć podobne luki .

Firma ostro sprzeciwiła się temu precedensowi, stwierdzając: "Nie zgadzamy się, że odkrycie wąskiego, potencjalnego jailbreaku powinno być powodem do wycofywania modelu komercyjnego wdrożonego dla setek milionów ludzi" .

David Sacks zarzuca odmowę naprawy

Narracja rządu była jednak diametralnie inna. Były car Białego Domu ds. AI i kryptowalut, David Sacks, obecnie współprzewodniczący Rady Doradców Prezydenta ds. Nauki i Technologii, przedstawił szczegółową relację publiczną, która przerzuciła winę bezpośrednio na kierownictwo Anthropica.

Sacks napisał, że "wysoce wiarygodny, zaufany partner zarówno Anthropica, jak i rządu USA" – powszechnie uważany za Amazon – odkrył jailbreak zdolny do usunięcia zabezpieczeń Fable 5, aby odsłonić pełne, bardziej niebezpieczne możliwości modelu Mythos . Według Sacksa, administracja postawiła następnie CEO Anthropica, Dario Amodei, jasny wybór: albo naprawić lukę, albo wycofać model .

Sacks twierdził, że Amodei odrzucił obie opcje. "Administracja poprosiła Dario o naprawienie jailbreaku lub wycofanie modelu. Dario odmówił" – stwierdził Sacks, dodając, że kontrola eksportu była koniecznym i "zastosowanym z niechęcią" środkiem w celu zarządzania ryzykiem, którego firma nie chciała zniwelować . Sacks oskarżył ponadto Anthropic o działanie w złej wierze, krytykując firmę za wcześniejsze promowanie Mythosa jako cyberbroni wymagającej regulacji, tylko po to, by bagatelizować obawy, gdy okazało się, że te same możliwości są zagrożone wyciekiem .

To starcie relacji – firma twierdząca, że padła ofiarą nadgorliwości rządu z powodu drobnej usterki, kontra wysoki urzędnik zarzucający odmowę naprawienia prawdziwego zagrożenia na miarę broni – definiuje najpoważniejszą jak dotąd konfrontację w dziedzinie polityki AI. Biały Dom utrzymywał, że zakaz był środkiem tymczasowym, który mógł zostać zniesiony, gdyby Anthropic naprawił lukę w zabezpieczeniach .