Zpráva Anthropicu ukazuje, jak byl Claude zneužíván při útocích, podvodech i biologickém výzkumu

Anthropic ve své zářijové zprávě o hrozbách popsal, jak jeho tým během osmi měsíců odhalil a narušil pokusy o zneužití systému Claude. Nejpodstatnější závěr není, že by umělá inteligence vytvořila úplně nové druhy škod. Podle firmy spíše usnadňuje jednotlivé kroky operací, které dříve vyžadovaly více odborného času, práce a technického zázemí. 13

Sedm oblastí zneužití

Zpráva se týká aktivity narušené mezi prosincem 2025 a srpnem 2026 v sedmi oblastech: kybernetických operacích, vlivových operacích, sledování, podvodech a finančních podvodech, biologickém zneužití, vývoji konvenčních zbraní a nelegální destilaci modelů. Destilace zde znamená pokus napodobit schopnosti modelu pomocí jeho výstupů. 15

Anthropic uvádí, že se v případech objevily modely Claude Haiku, Sonnet a Opus. Modely řady Fable ani Mythos se v nich podle firmy neobjevily, s výjimkou jednoho případu nelegální destilace. 35

Mezi aktéry byli podle hodnocení společnosti podezřelí státem podporovaní útočníci, finančně motivovaní zločinci, dodavatelé spywaru, propagandistické operace i politicky motivované skupiny. Zneužívání AI tedy zpráva nevykresluje jako problém omezený jen na běžnou kyberkriminalitu. 1

Kyberútoky: AI už nepomáhá jen s dílčími úkoly

Právě kybernetické případy jsou nejsilnějším varováním před rostoucí operační samostatností AI. Anthropic popsal využití modelů nejen pro vysvětlování kódu nebo tvorbu textu, ale také pro plánování pracovních postupů, průzkum cílů, práci s odcizenými informacemi a podporu průniků či vydírání. 1

Firma spojila Claude asistovanou činnost s průniky připisovanými skupině Midnight Blizzard, které měly zasáhnout ukrajinské a evropské cíle i dodavatelský řetězec pro drony. Další případ se týkal osob označených za možné spolupracovníky skupiny ShinyHunters a údajné hromadné krádeže údajů o platebních kartách a cestujících. Tato označení i závěry o průběhu operací jsou ovšem hodnocením Anthropicu, nikoli nezávislým důkazem totožnosti každého aktéra či všech následků útoků. 1

Praktický dopad je zřejmý: AI může snížit časovou a organizační náročnost útoku. Neodstraňuje ale potřebu získat přístup, provozovat infrastrukturu, správně vyhodnocovat situaci ani lidský úmysl škodit. Může však usnadnit sestavení a řízení složitějšího postupu.

Biologické žádosti byly závažné, nejsou ale důkazem výroby zbraně

Anthropic rovněž uvedl pokusy získat pomoc s výzkumem gain-of-function u viru chikungunya, s adaptací vysoce patogenní ptačí chřipky na savce a s výzkumem živých orthopoxvirů. Jde o citlivé oblasti výzkumu dvojího užití: legitimní vědecké otázky se zde mohou překrývat se znalostmi, které lze zneužít. 1

Je důležité rozlišovat mezi žádostí o asistenci a uskutečněným biologickým programem. Zpráva popisuje pokusy o zneužití, které firma podle svých slov narušila. Nedokládá, že vznikla biologická zbraň ani že byl zamýšlený výzkum skutečně proveden. 1

Jak Anthropic reagoval

Společnost uvedla, že posílila ochranná opatření, zablokovala účty, narušila související infrastrukturu a sdílela indikátory hrozeb i poznatky s relevantními technologickými firmami a státními orgány. Zveřejnila také indikátory kompromitace, které mají obráncům pomoci odhalit související aktivitu. 1

Poskytovatelé AI tak stále častěji plní dvojí roli: modely nejen vyvíjejí, ale také sledují jejich zneužívání, rozhodují o odebrání přístupu a koordinují postup s dalšími subjekty.

Co zpráva dokládá — a co nikoli

Zpráva je cenná jako soubor případů, které Anthropic uvádí jako odhalené a narušené. Není však studií, která by měřila četnost zneužívání AI v celém internetu nebo u jiných poskytovatelů modelů. Z takového výběru případů nelze určit, jak rozšířený je každý typ zneužití, kolik incidentů zůstalo neodhaleno ani zda AI v každé operaci zásadně změnila konečný výsledek. 13

Tento limit je důležitý pro debatu o pravidlech. Firmy musí být schopné rychle zastavit věrohodné zneužití, zvlášť v kybernetické a biologické oblasti. Rozhodnutí o monitorování, omezení přístupu, rušení účtů a zveřejňování informací ale mají dopad i na soukromí, procesní spravedlnost a veřejnou odpovědnost. Zpráva proto posiluje argument pro jasná pravidla, smysluplnou externí kontrolu a koordinaci, která nenechá rozhodování s vysokými sázkami výhradně na jedné společnosti.

Shrnutí

Anthropic zdokumentoval široké spektrum pokusů o zneužití Claudu — od kybernetických průniků a podvodů přes sledování až po práci související se zbraněmi a citlivý biologický výzkum. Klíčové varování zní, že AI může útočníkům pomoci zorganizovat větší část operace s menšími zdroji. Důkazy mají zároveň jasné hranice: jde o zachycené a narušené případy, takže zprávu je vhodné číst jako signál vyvíjejícího se rizika, ne jako soupis všech hrozeb spojených s AI. 13