Dlaczego amerykański rząd zmusił Anthropic do globalnego wyłączenia Fable 5 i Mythos 5?

"Efektem netto tego nakazu jest to, że musimy nagle wyłączyć Fable 5 i Mythos 5 dla wszystkich naszych klientów, aby zapewnić zgodność z prawem", oświadczyła firma na swoim oficjalnym blogu i na platformie X . Dostęp do innych modeli AI, w tym szeroko używanego chatbota Claude, pozostał niezakłócony .

Co wywołało reakcję rządu?

Obawy rządu dotyczące bezpieczeństwa narodowego koncentrują się na tym, co urzędnicy opisali jako luki w zabezpieczeniach (tzw. jailbreak) oraz na potencjalnej zdolności modeli do prowadzenia autonomicznych badań nad cyberbezpieczeństwem . Według doniesień, rząd przedstawił jedynie ustne dowody na istnienie potencjalnego, wąskiego i nieuniwersalnego jailbreaka – w istocie metody polegającej na poproszeniu modelu o przeczytanie konkretnego kodu źródłowego i naprawienie w nim błędów .

Wcześniejsze ostrzeżenia samego Anthropic dotyczące bezpieczeństwa jego modeli mogły nieumyślnie przyczynić się do alarmu w rządzie. Firma przyznała wcześniej, że Mythos 5, jej najbardziej zaawansowany model przeznaczony do ograniczonego użytku, stwarza poważne ryzyko dla cyberbezpieczeństwa, co skłoniło Biały Dom do ustanowienia zabezpieczeń dla agencji federalnych, którym przyznano specjalny dostęp . Fable 5 został publicznie udostępniony zaledwie kilka dni przed zakazem jako bezpieczniejsza wersja, wytrenowana do odrzucania szkodliwych zapytań, ale szybkie posunięcie rządu sugeruje, że nie był on przekonany, iż zabezpieczenia są wystarczające .

Jest to pierwszy raz, kiedy rząd USA sklasyfikował konkretny duży model językowy jako zagrożenie dla bezpieczeństwa narodowego i użył zasad tzw. eksportu uznaniowego (ang. deemed-export), aby ograniczyć dostęp nawet do obcokrajowców pracujących na amerykańskiej ziemi . Sekretarz handlu Howard Lutnick osobiście przekazał kontrolę eksportu dyrektorowi generalnemu Anthropic, Dario Amodeiowi, za pośrednictwem listu .

Bezprecedensowe włączenie własnych pracowników Anthropic

To, co sprawiło, że przestrzeganie nakazu było tak absolutne, to jego zasięg obejmujący siłę roboczą Anthropic. Urzędnicy rządowi wyraźnie stwierdzili, że zakaz dotyczy "jakiegokolwiek obcokrajowca, niezależnie od tego, czy znajduje się on w Stanach Zjednoczonych, czy poza nimi, w tym zagranicznych pracowników Anthropic" .

Oznaczało to, że nawet naukowcy i inżynierowie pracujący nad projektem Glass Wing – wewnętrzną inicjatywą Anthropic na rzecz bezpieczeństwa najbardziej zaawansowanych systemów AI – którzy nie są obywatelami ani stałymi rezydentami USA, mieli zakaz dostępu do modeli . Ponieważ ograniczenie obowiązywało wewnątrz murów samej firmy, Anthropic nie mogło po prostu ograniczyć dostępu klientów zewnętrznych i kontynuować rozwoju wewnętrznie. Jedyną drogą do zgodności z prawem było całkowite globalne wyłączenie do czasu znalezienia rozwiązań technicznych lub prawnych .

To wydarzenie stanowi dramatyczne zastosowanie amerykańskiego prawa kontroli eksportu do sztucznej inteligencji, traktujące zaawansowane modele bardziej jak broń lub wrażliwą technologię obronną. Zasady eksportu uznaniowego oznaczają, że dzielenie się kontrolowaną technologią z obcokrajowcem na terenie USA jest prawnie równoważne z jej wywiezieniem za granicę .

Odpowiedź Anthropic: "To nieporozumienie"

Anthropic szybko zastosowało się do nakazu, ale dało jasno do zrozumienia, że uważa, iż rząd popełnił błąd. "Wierzymy, że jest to nieporozumienie i pracujemy nad jak najszybszym przywróceniem dostępu" – oświadczyła firma w swoim publicznym komunikacie .

Firma podkreśliła, że dowody na jailbreak, które otrzymała, były wąskie i nieuniwersalne, co sugeruje, że rząd może przeceniać praktyczne ryzyko . W międzyczasie firma obiecała utrzymać wszystkie inne modele Claude online, podczas gdy negocjuje ścieżkę przywrócenia Fable 5 i Mythos 5 .

Na razie bezprecedensowy nakaz pozostaje w mocy, a dwa najpotężniejsze modele AI, jakie kiedykolwiek wycofano z publicznego dostępu ze względów bezpieczeństwa narodowego, są niedostępne. To, jak długo to potrwa – i jaki precedens stworzy dla innych firm zajmujących się najbardziej zaawansowaną AI – będzie kolejnym rozdziałem w gwałtownie nasilającej się debacie na temat tego, kto może korzystać z najpotężniejszych systemów AI.