Exportní kontroly byly spuštěny bezpečnostním výzkumem provedeným ve společnosti Amazon, jednom z největších investorů Anthropicu. Podle informací deníku Wall Street Journal a serveru Axios se výzkumníkům Amazonu podařilo provést útěk (jailbreak) modelu Fable 5, čímž prokázali, že model lze manipulovat pomocí kybernetických dotazů k extrahování informací, které by mohly napomoci kybernetickým útokům . Ve čtvrtek 11. června zavolal generální ředitel Amazonu Andy Jassy vysoce postaveným představitelům administrativy, aby s nimi výsledky sdílel, a Bílý dům jednal do 24 hodin
. Vysoce postavený představitel Trumpovy administrativy označil reakci Anthropicu na zranitelnost za „bezohlednost“
. Konkrétní technika útěku spočívala v jednoduchém, tříslovném promptu – „Fix this code“ (Oprav tento kód) – který model oklamal, aby odhalil zneužitelné informace o bezpečnostních chybách
.
Omezení vyvolala rychlé a rázná odsouzení napříč technologickým a kybernetickým průmyslem:
Exportní zákaz narušil vztahy se spojenci USA. Omezení zablokovalo vládám, firmám a jednotlivcům ve Velké Británii, Japonsku a dalších spojeneckých zemích přístup k nejpokročilejším modelům Anthropicu . Server Al Jazeera uvedl, že toto nařízení dále narušilo spojenectví, protože spojenci se cítí být považováni za bezpečnostní riziko spíše než za partnery
. Direktiva se vztahovala na „jakéhokoli cizince“ bez výjimek pro nejbližší spojence
.
Anthropic zahájil naléhavou diplomatickou a technickou ofenzívu s cílem situaci vyřešit. Společnost vyslala zaměstnance do Washingtonu, D.C., během víkendu 13.–14. června, přičemž do hlavního města poslala klíčové technické pracovníky, aby jednali s úředníky a vyjednali dohodu o zrušení exportních omezení . K 17. červnu společnost na vyřešení sporu stále aktivně pracovala, přičemž generální ředitel Dario Amodei jednal přímo s představiteli administrativy
.
Kromě červnových exportních kontrol vede Anthropic samostatný, několikaměsíční právní spor s Pentagonem:
Comments
0 comments