Zneužívání Claude: co ukazují případy z bezpečnostní zprávy Anthropicu

Anthropic ve své zprávě z 10. září 2026 popisuje operace, které jeho tým pro zpravodajství o hrozbách podle vlastních slov odhalil a narušil během osmi měsíců – od prosince 2025 do srpna 2026. Případy se týkaly pokusů zneužít Claude Haiku, Sonnet a Opus pro kybernetické operace, vlivové kampaně, sledování, podvody, biologické zneužití, vývoj konvenčních zbraní a nedovolenou distilaci modelů. 16

Je důležité rozlišovat, co zpráva skutečně dokládá: popisuje pokusy získat pomoc AI, nikoli nezávisle ověřené nasazení či úspěch údajných zbraňových, sledovacích nebo biologických projektů v praxi. Anthropic navíc předkládá vybrané významné případy, nikoli statistický obraz běžného používání Claude. 16

Co zpráva odhalila

Hlavní varování Anthropicu je, že pokročilé modely mohou snížit objem specializovaných znalostí, času i personálních kapacit nutných pro škodlivou činnost. V popsaných případech měli údajní aktéři žádat pomoc se vším od rešerší a vývoje softwaru po podklady k volbě cílů a operační analýzy. 116

Zbraně a sledování

Mezi nejzávažnější tvrzení patří pokusy využít Claude při práci související s konvenčními zbraněmi a sledováním. Média popisující zveřejněné informace uváděla snahy spojené se softwarem pro autonomní jednosměrné útočné drony, navigačními systémy střel a vojenskými aplikacemi přisuzovanými aktérům napojeným na Rusko, Írán, Čínu a Jemen. 1

Materiály dále zahrnovaly údajné pokusy identifikovat a cílit na Ujgury přes WhatsApp a Telegram i rozsáhlý telekomunikační sledovací systém v Mali. Tyto příklady ilustrují širší problém: jazykové modely neslouží jen ke generování kódu, ale také k rešerším, klasifikaci, analýze a vytváření operačních dokumentů. 116

Pokusy o biologické zneužití

Anthropic identifikoval pět případů biologického zneužití. Jeden se podle zpravodajství o zprávě týkal pokusu souvisejícího se zvýšením přenosnosti viru šířeného komáry. 1

Společnost také uvedla, že někteří uživatelé po odmítnutí citlivých dotazů v Claude vyhledávali konkurenční AI systémy. To nedokazuje, že jejich snahy uspěly jinde. Ukazuje to ale hranici kontrol jednotlivého poskytovatele: odmítnutí může aktivitu přerušit na jedné službě, aniž by aktérovi zabránilo hledat alternativu. 1

Kampaně na distilaci modelů

Samostatná část zprávy se věnovala nedovolené distilaci modelů – využívání výstupů schopnějšího modelu k trénování jiného systému. Anthropic připsal takové kampaně sedmi laboratořím z Číny, včetně Alibaba, Moonshot a DeepSeek. Popsal využívání velkého množství účtů a předávaných promptů k získání užitečných výstupů či postupů uvažování modelu. 1

Jde o jiný typ zneužití než vývoj zbraní nebo sledování, pro vývojáře AI však představuje strategický problém. Přístup k modelu může být využit k napodobení jeho schopností a potenciálně obejití nákladů na jejich samostatný vývoj.

Které modely Claude byly zapojeny?

Anthropic uvádí, že popsané případy zneužití se týkaly Claude Haiku, Sonnet a Opus. Novější modelové třídy Fable a Mythos se v případech neobjevily – s jedinou výjimkou distilace modelu. 1216

Tato výjimka je podstatná, protože koriguje příliš široké tvrzení, že Fable a Mythos ve zprávě nebyly vůbec. Dostupné podklady podporují přesnější závěr: v odhalených případech zneužití použity nebyly, vyjma jednoho případu distilace. 12

Reakce Anthropicu a hranice důkazů

Anthropic uvedl, že operace narušil, související účty zablokoval, posílil obranu a tam, kde to bylo vhodné, sdílel informace s úřady a partnery v oboru. 16

Zpráva je ale zároveň dokumentem společnosti o aktivitě zachycené na její vlastní platformě. Je to cenný doklad toho, co Anthropic odhalil a proti čemu zasáhl, nelze ji však číst jako nezávislé potvrzení, že každý údajný aktér dokončil zamýšlený projekt. I sama firma ji vymezuje jako soubor pozoruhodných případů, nikoli reprezentativní průzkum veškerého zneužívání. 16

Proč následovala výzva „udržovat tempo hranice“

Dva dny po zveřejnění zprávy vydal generální ředitel Anthropicu Dario Amodei text We Must Pace the Frontier. Argumentoval v něm, že AI společnosti mají záměrně zpomalit tempo, jímž zvyšují schopnosti špičkových modelů, zatímco technický pokrok bude pokračovat. Cílem je dát více prostoru tomu, aby bezpečnostní opatření, slaďování modelů s lidskými záměry a ověřování dokázaly vývoj dohnat. 25

Amodei nenavrhoval zastavit trénování modelů. Prvním konkrétním závazkem Anthropicu má být trvalý přístup nezávislých hodnotitelů k systémům firmy na úrovni zaměstnanců. Mají tak posuzovat bezpečnostní postupy, hlásit incidenty a hodnotit slaďování modelů během tréninku. 1825

Jeho širší tříkrokový návrh počítá s dohledem uvnitř jednotlivých společností, koordinací mezi firmami v demokratických zemích a nakonec se širší mezinárodní koordinací. 2325

Co je doloženo – a co ne

Zpráva dokládá, že Anthropic tvrdí, že ve vymezeném období odhalil a narušil pokusy o škodlivé použití starších modelů Claude v sedmi kategoriích rizik. Zároveň nabízí konkrétní zdůvodnění postoje firmy, podle něhož se bezpečnostní opatření musejí vyvíjet spolu se schopnostmi modelů. 16

Dostupné zpravodajství naopak nedokládá, že by zpráva přímo způsobila konkrétní kroky Kongresu USA, ukončení přestávky Sněmovny reprezentantů nebo přijetí určitého zákazu „superinteligence“. Tlak na dohled nad bezpečností AI je širší a Amodei tvrdí, že vlády mají pomáhat udržovat rovnováhu mezi schopnostmi a bezpečností. Uvedené konkrétní příčinné souvislosti by však vyžadovaly další důkazy. 2527

Praktický závěr je méně dramatický, ale zásadní: prevence zneužití AI nestojí jen na tom, zda model odmítne škodlivý prompt. Vyžaduje sledování koordinovaného zneužívání, reakci na obcházení přes účty a pokusy o distilaci, sdílení informací o hrozbách a důvěryhodné bezpečnostní hodnocení, jak schopnosti modelů rostou. 1625