Čína vidí v AI bezpečnostní hrozbu pro stát i technologickou suverenitu

Čínský ministr státní bezpečnosti Chen Yixin vykreslil umělou inteligenci hlavně jako problém národní a režimní bezpečnosti. Podle něj ji mohou nepřátelské síly zneužít k destabilizaci Číny, krádežím citlivých dat, narušování infrastruktury a k omezování přístupu země ke klíčovým technologiím. Dario Amodei z Anthropic mezitím formuloval jiné jádro obav: nejpokročilejší modely mohou být příliš schopné na to, aby je šlo bezpečně sladit s lidskými cíli, zabezpečit a účinně řídit. Obě perspektivy nicméně vedou k požadavku na přísnější pojistky a mezinárodní koordinaci. 3712

Co Chen Yixin označil za rizika

V článku zveřejněném v oficiálním časopise China Cyberspace Chen vyjmenoval šest bezpečnostních rizik spojených s AI. Uvedl, že nepřátelské síly mohou využívat falešná videa a nahrávky, tedy deepfaky, dále AI-generované texty a obrázky či automatizované účty na sociálních sítích. Takové nástroje podle něj umožňují ve velkém vyrábět politické fámy, šířit škodlivý obsah, vyhrocovat společenské rozpory a vést operace zaměřené na ovlivňování veřejného mínění a kognitivní válku. To může přímo ohrozit čínskou politickou, institucionální a ideologickou bezpečnost. 57

Ministr také varoval, že AI snižuje náklady i odbornou bariéru pro kybernetické průniky a tvorbu malwaru. Může usnadnit zpravodajské získávání informací i hromadné úniky státních tajemství, obchodně citlivých dat a osobních údajů. Riziko podle něj hrozí rovněž kritické informační infrastruktuře a systémům sociální správy. 31113

Bezpečnost znamená i technologickou suverenitu

Chen popsal mezinárodní soutěž v AI jako prostředí, v němž vedoucí státy s odkazem na národní bezpečnost zavádějí technologická omezení, utvářejí či monopolizují standardy a budují uzavřené proprietární ekosystémy. Z tohoto pohledu nelze bezpečnost AI oddělit od strategické závislosti, kontroly dodavatelských řetězců, technologického zadržování konkurentů a zahraničního vměšování. 57

Peking tak nevnímá bezpečnostní debatu jen jako otázku technických testů modelů. Zahrnuje do ní také kontrolu dat, ochranu infrastruktury, schopnost určovat standardy a nezávislost na zahraničních technologiích.

Odlišný důraz než v Silicon Valley

Amodei ve svém textu We Must Pace the Frontier nevyzval k zastavení vývoje AI. Navrhl zpomalit růst schopností modelů natolik, aby s ním stihly držet krok metody pro sladění modelů s lidskými cíli, bezpečnostní ochrany a externí testování. Jeho návrh zahrnuje nezávislé hodnotitele s dlouhodobým přístupem srovnatelným se zaměstnanci přímo ve firmách vyvíjejících hraniční modely, společné bezpečnostní závazky demokratických zemí a v dlouhodobém výhledu širší globální koordinaci včetně autoritářských vlád. 122

Šéf OpenAI Sam Altman uvedl, že jeho firma myšlenku nezávislých hodnotitelů s přístupem podobným zaměstnancům přijme. Elon Musk se veřejně ztotožnil s Amodeiho výzvou k pomalejšímu tempu vývoje. 101

Dva bezpečnostní rámce

• Pekingský pohled je orientovaný na stát: prioritou je politická stabilita, autorita Komunistické strany Číny, ideologická kontrola, datová suverenita, bezpečnost infrastruktury a ochrana před zahraničním technologickým nátlakem. AI nástroje pro vlivové operace či přístup zahraničních aktérů k čínským datům jsou proto chápány jako přímá bezpečnostní hrozba. 57

• Přístup zaměřený na bezpečnost hraničních modelů je orientovaný na schopnosti systémů: cílem je zabránit tomu, aby nedostatečně sladěné či zabezpečené modely umožnily katastrofické kyberútoky, autonomní škodlivé jednání, nebezpečné vědecké zneužití nebo ztrátu skutečné lidské kontroly. Hlavními nástroji mají být hodnocení, technické pojistky a přeshraniční pravidla. 122

Tyto pohledy se zcela nevylučují. Obě strany uznávají hrozby kybernetického zneužití, špionáže, dezinformací a vojenského využití AI. Neshodnou se ale v tom, čí standardy mají platit, zda se bezpečnostní pravidla nemohou změnit ve strategická technologická omezení a jaká míra transparentnosti či externí kontroly je slučitelná se suverenitou a národní bezpečností.

Co to znamená pro jednání USA a Číny

Na polovinu září se připravuje dialog USA a Číny o bezpečnosti AI. Podle agentury Reuters má jít o první oficiální dvoustranné jednání za druhého funkčního období prezidenta Donalda Trumpa, které bude výhradně věnováno této problematice. 4

Chenův článek naznačuje, že Peking bude nejspíš prosazovat agendu zahrnující zahraniční vměšování, ochranu dat a infrastruktury, rovnoprávné postavení při tvorbě standardů i odpor vůči technologickému zadržování. Nezaměří se tedy pouze na slaďování hraničních modelů s lidskými cíli a rizika katastrofického selhání, která zdůrazňuje Amodei. 37

Dohoda může být proto důležitá, ale obtížná. Snáze se lze shodnout na konkrétních škodách — například na AI podporovaných kyberútocích, podvodech se syntetickými médii, hlášení incidentů nebo komunikaci o vojenských rizicích — než na univerzálních hodnoceních modelů či limitech jejich schopností. Opatření, která Washington považuje za snižování rizika, může Peking prezentovat jako nástroje k udržení technologické převahy USA.