Americká vláda nařídila Anthropicu odstavit modely Fable 5 a Mythos 5 pro celý svět

„Čistým důsledkem tohoto nařízení je, že musíme náhle deaktivovat Fable 5 a Mythos 5 pro všechny naše zákazníky, abychom zajistili soulad s nařízením,“ uvedla firma na svém oficiálním blogu a na síti X . Přístup k jejím ostatním AI modelům, včetně široce používaného chatbota Claude, tímto krokem ovlivněn není .

Co stálo za zásahem vlády

Obavy vlády o národní bezpečnost se soustředí na to, co úředníci popsali jako zranitelnosti umožňující tzv. jailbreak a potenciál modelů provádět autonomní kyberbezpečnostní průzkum . Podle zpráv vláda poskytla pouze ústní důkazy o potenciálním, úzce specifickém jailbreaku – v podstatě šlo o metodu, jak model požádat, aby přečetl konkrétní kódovou základnu a opravil v ní softwarové chyby .

Je ironií, že k poplachu vlády mohly nechtěně přispět i dřívější bezpečnostní varování samotného Anthropicu ohledně jeho modelů. Společnost již dříve uznala, že Mythos 5, její nejschopnější model určený pro omezené použití, představuje významná kyberbezpečnostní rizika. To vedlo Bílý dům k zavedení ochranných opatření pro federální agentury, které získaly zvláštní přístup . Fable 5 byl veřejnosti uvolněn jen několik dní před zákazem jako „bezpečnější“ verze trénovaná na odmítání škodlivých požadavků, ale rychlý krok vlády naznačuje, že ji tato opatření nepřesvědčila .

Jde o vůbec první případ, kdy americká vláda klasifikovala konkrétní velký jazykový model jako hrozbu pro národní bezpečnost a použila pravidla o tzv. „deemed exportu“ k omezení přístupu i pro cizince pracující na americké půdě . Ministr obchodu Howard Lutnick osobně sdělil tato vývozní omezení generálnímu řediteli Anthropicu Dario Amodeimu formou dopisu .

Bezprecedentní zásah i do vlastních zaměstnanců

Dopad směrnice na pracovní sílu Anthropicu je tím, co učinilo její splnění tak absolutním. Vládní představitelé výslovně uvedli, že se zákaz vztahuje na „jakéhokoli cizince, ať už uvnitř nebo mimo Spojené státy, včetně zahraničních zaměstnanců společnosti Anthropic“ .

To znamenalo, že i výzkumníci a inženýři pracující na projektu Glass Wing – což je interní iniciativa Anthropicu pro bezpečnost špičkových modelů –, kteří nejsou občany USA ani nemají trvalý pobyt, měli zakázáno k modelům přistupovat . Vzhledem k tomu, že se tato restrikce vztahovala i na půdu samotné firmy, nemohl Anthropic jednoduše omezit přístup externím zákazníkům a pokračovat ve vývoji interně. Jedinou cestou k dosažení souladu s nařízením bylo kompletní globální odstavení, dokud se nenajde technické nebo právní řešení .

Tato epizoda představuje dramatické uplatnění amerického zákona o kontrole vývozu na umělou inteligenci, čímž se s pokročilými modely zachází podobně jako se zbraněmi nebo citlivými obrannými technologiemi. Pravidla o „deemed exportu“ znamenají, že sdílení kontrolované technologie s cizincem na území USA je právně rovnocenné jejímu vývozu do zahraničí .

Reakce Anthropicu: „Jde o nedorozumění“

Společnost Anthropic sice okamžitě vyhověla, ale dala jasně najevo, že podle ní vláda pochybila. „Věříme, že jde o nedorozumění, a pracujeme na co nejrychlejším obnovení přístupu,“ uvedla firma ve svém veřejném prohlášení .

Společnost zdůraznila, že důkazy o jailbreaku, které obdržela, byly úzce specifické a nikoli univerzální, což naznačuje, že vláda může přeceňovat praktická rizika . Mezitím společnost slíbila, že ponechá online všechny ostatní Claude modely, zatímco bude vyjednávat o cestě k obnovení Fable 5 a Mythos 5 .

Tento bezprecedentní příkaz prozatím platí a dva nejvýkonnější AI modely, které kdy byly z důvodu národní bezpečnosti staženy z veřejného přístupu, zůstávají „potmě“. Jak dlouho to potrvá – a jaký precedens to vytvoří pro další firmy vyvíjející hraniční AI – bude další kapitolou v rychle eskalující debatě o tom, kdo smí používat nejschopnější systémy umělé inteligence.