Jak aktéři obcházeli ochrany Claude, podle zprávy Anthropicu

Anthropic ve své zářijové zprávě o hrozbách popisuje, jak se podezřelé státem napojené a kriminální skupiny pokoušely zneužívat Claude v období od prosince 2025 do srpna 2026. Společnost uvádí, že narušila aktivity napříč kybernetickými operacemi, vlivovými kampaněmi, dohledem, podvody, biologickým zneužitím, vývojem konvenčních zbraní a nelegálním získáváním schopností modelu metodou distilace. V zachycených případech figurovaly modely Claude Haiku, Sonnet a Opus. 16

Podstatné je, že zpráva netvrdí, že každý pokus skončil úspěchem. Ukazuje spíše, jak AI snižuje množství práce potřebné pro průzkum cílů, dohled, podvody či kybernetické operace — a jak lze omezení poskytovatele obejít zneužitím účtů. Anthropic zároveň uvedl, že nenašel důkaz o nasazení funkční zbraně vyvinuté s pomocí Claude. 46

Jak mělo docházet k obcházení omezení

Popsané případy zahrnovaly snahy obejít geografická i platformní omezení přes VPN, podvodně založené účty, kompromitované přihlašovací údaje a střídání účtů. Těmito postupy se aktéři měli dostávat ke službě navzdory kontrolám, které mají zneužití omezovat. 4

Anthropic současně popsal zneužívání širšího ekosystému AI. Šlo například o kompromitované či přeprodávané API klíče a tokeny relací nebo weby vydávající se za produkty či poskytovatele AI — včetně Claude Code — které šířily malware kradoucí přihlašovací údaje. 412

Z toho plyne, že bezpečnost modelu nelze hodnotit jen podle toho, co odmítne v konverzaci. Součástí bezpečnostní hranice jsou také zakládání účtů, ověřování identity, zneužívání plateb, ochrana přístupových údajů a odhalování koordinované aktivity více účtů.

Případy popsané ve zprávě

Výzkum zbraní a dronů

Anthropic popsal jemenskou technickou skupinu pracující na řízených zbraních, která Claude využila při práci na softwaru spojovaném s řízenou raketou, vícestupňovou balistickou střelou a hypersonickou klouzavou střelou. Firma uvedla, že nemá důkaz o nasazení funkční zbraně vyvinuté s pomocí Claude. 6

Samostatný aktér napojený na Rusko se měl pokoušet získat pomoc související s autonomním rojem sebevražedných dronů. Dostupné informace tento případ charakterizují jako pokus o vývoj s podporou AI, nikoli jako důkaz dokončeného či nasazeného systému. 5

Dohled, represe a vlivové operace

Zpráva popisuje také dohled a zpravodajský sběr s podporou AI. V případě spojovaném s Čínou měl inženýr pracující na systému pro správu případů městského úřadu veřejné bezpečnosti vytvořit nástroj, který podle čísla občanského průkazu porovnával pohyb člověka s policejními záznamy. 4

Další hlášené případy zahrnovaly aktivitu spojovanou s Mali, jejímž cílem mělo být odposlouchávání komunikace napříč mobilními operátory, a íránskou operaci se sběrem identit ze sociálních sítí a analýzou více než 155 000 příspěvků na síti X, dříve Twitter, pro zpravodajské nebo vlivové účely. Dostupné materiály podporují tvrzení Anthropicu o odhalení těchto aktivit, samy o sobě však nedokládají skutečnou účinnost či dopad každé kampaně. 4

Varování Anthropicu zní, že AI může zavedené praktiky dohledu a represí zlevnit, zrychlit a usnadnit jejich škálování. Nemusí nutně vytvářet zcela nové typy škod, ale snižuje množství práce a odbornosti potřebné k jejich provádění. 4

Kyberšpionáž, podvody a krádež schopností modelu

Zpráva dokumentuje kybernetické aktivity od krádeží přístupových údajů a podpory průniků až po částečně autonomní útočné postupy s asistencí AI. Popisuje také operace zaměřené na vládní, finanční a komerční subjekty v Asii. 4

Aktivita spojovaná s Ruskem podle dostupných informací zahrnovala kyberšpionáž a zveřejnění přístupových údajů propojených s ruskou vládní databází v oblasti obrany prostřednictvím směrování dotazů na model. 5

Případy spojované s Čínou zahrnovaly pokusy získat či destilovat schopnosti Claude, údajně s využitím velkého počtu podvodných účtů. Anthropic uvádí nelegální distilaci jako jednu ze sedmi oblastí škod, jimiž se vyšetřování zabývalo. 416

Jak Anthropic reagoval

Anthropic uvedl, že identifikované operace narušil, související účty zablokoval, na základě zjištěných případů upravil ochranná opatření a relevantní informace sdílel s příslušnými úřady i partnery z odvětví. 4

Takové kroky mohou uzavřít konkrétní cestu ke komerčnímu modelu a poskytnout užitečné indikátory dalším obráncům. Neodstraňují však nástroje ani motivaci, které za aktivitou stojí.

Proč samotné zablokování účtů nestačí

Anthropic výslovně upozorňuje, že problém přesahuje přístup ke Claude. Aktéři odstřižení od jedné služby mohou hledat ukradené účty, přesunout se k jinému poskytovateli nebo využít open-source modely. 4

Zprávu je proto vhodné číst jako doklad proměňujícího se prostředí hrozeb, ne jako důkaz, že zablokování určité skupiny účtů zneužití trvale vyřeší. Vymáhání pravidel poskytovatelem může zvyšovat náklady útočníků, odhalovat kampaně a chránit legitimní uživatele. Musí jej však doplnit důslednější ověřování identity, ochrana přístupových údajů, koordinované sdílení informací o hrozbách a obrana, která počítá s AI nástroji mimo jedinou platformu.

Shrnutí

Zpráva Anthropicu vykresluje zneužití AI hlavně jako problém škálování operací. Aktéři podle ní používali známé postupy — VPN, podvodné účty a ukradené přístupy — aby obecně použitelné modely nasadili pro výzkum související se zbraněmi, dohled, vlivové operace, kybernetické aktivity a podvody. 416

Kroky firmy omezily přístup ke Claude v popsaných případech. Širší varování ale zůstává: stále schopnější AI snižuje bariéry pro škodlivou činnost napříč celým ekosystémem, zatímco dostupné důkazy neukazují, že každý hlášený pokus — včetně práce související se zbraněmi — dospěl k operačnímu nasazení. 46