Chen Yixin vidí v AI hrozbu pro čínský politický systém, data i technologie

Pro čínského ministra státní bezpečnosti Čchen I-sina není umělá inteligence především abstraktním problémem bezpečnosti či hypotetického vyhynutí lidstva. Vnímá ji hlavně jako možné ohrožení politické stability, vládnoucího systému a technologické suverenity Číny. Podle něj mohou nepřátelé AI využít k destabilizaci země, pronikání k datům a infrastruktuře i k udržování nerovného technologického uspořádání ovládaného ze zahraničí. 2

Deepfaky, boty a „kognitivní válka“

Čchen varoval, že deepfaky, texty a obrazový obsah vytvořený AI i automatizované účty na sociálních sítích mohou vyrábět politické fámy, šířit škodlivé informace a prohlubovat společenské rozpory. Takové nástroje podle něj mohou sloužit také pro „válku veřejného mínění“ a kognitivní válku. Důsledkem by mohlo být přímé ohrožení čínské politické, institucionální a ideologické bezpečnosti. 2

Tento rámec je výrazně státně orientovaný: nejde jen o to, zda je model bezpečný při běžném používání, ale i o to, zda může být informační prostor použit k oslabení autority Komunistické strany Číny a státního uspořádání.

Špionáž, data a kritická infrastruktura

Další oblastí obav je zpravodajské využití AI. Schopnost rychle shromažďovat, analyzovat a profilovat rozsáhlé soubory dat může podle Čchena pomoci zahraničním aktérům získávat státní tajemství, obchodní informace i osobní údaje. 23

Ministr také spojil pokročilou AI s riziky pro kritickou informační infrastrukturu. Upozornil, že technologie dokáže stále lépe vyhledávat zranitelnosti systémů a vytvářet malware nebo software, který tyto slabiny zneužije. 2

Spor o technologickou suverenitu

Čchen popsal AI jako klíčové bojiště strategické soutěže. Vedoucí státy podle něj mohou s odvoláním na národní bezpečnost zavádět technologická omezení, ovládat technické standardy a budovat uzavřené ekosystémy. Z toho plyne důraz na domácí technologické kapacity, kontrolu nad daty, algoritmy a infrastrukturou i na omezení závislosti na zahraničních dodavatelích. 2

V čem se jeho pohled liší od Amodeie, Altmana a Muska

Dario Amodei, šéf společnosti Anthropic, vyzval k pomalejšímu zvyšování schopností nejpokročilejších modelů, aby bezpečnostní opatření stíhala držet krok. Jeho plán počítá s nezávislými hodnotiteli, kteří by měli přístup srovnatelný se zaměstnanci, s koordinací firem a demokratických vlád na společných standardech a později i se širší mezinárodní spoluprací. 1

Čchenův přístup je jiný. Jádrem hrozby pro něj není pouze možnost, že se velmi výkonné modely stanou nebezpečnými pro všechny. Jde také o riziko, že protivníci AI využijí k oslabení vlády Komunistické strany Číny, k získávání čínských dat a k upevnění západní technologické převahy. „Bezpečnost“ proto zahrnuje i kontrolu informací, bezpečnostní prověřování a domácí kontrolu nad klíčovými technologiemi. 2

Určitý omezený průnik přesto existuje: Čína rovněž označila rostoucí autonomii AI a možné vymknutí systémů lidské kontrole za budoucí bezpečnostní riziko. To poskytuje úzký prostor pro americko-čínský dialog. Nemění to však širší konflikt o čipy, modely, standardy ani o to, kdo bude určovat pravidla řízení AI. 3

Sam Altman z OpenAI uvedl, že souhlasí s potřebou „udávat tempo na hranici možností“ AI, a podpořil myšlenku externích bezpečnostních hodnotitelů. Elon Musk reagoval stručně: „Dario má pravdu.“ Jejich veřejně vyjádřený důraz tak mířil na zpomalení a hodnocení rozvoje špičkových modelů, nikoli na Čchenův program ochrany režimu a technologické autonomie. 1

Reakce čínských oficiálních míst a státních médií ukazuje hloubku rozdílu: západní výzvy ke zpomalení AI vykreslovaly jako strachem motivované, škodlivé pro soutěž nebo jako snahu brzdit čínský technologický pokrok, nikoli jako neutrální bezpečnostní politiku. 2 Plánované první dvoustranné americko-čínské jednání o bezpečnosti AI tedy odráží jen omezenou společnou obavu ze systémů, které se mohou stát obtížně kontrolovatelnými. Odehrává se v rámci mnohem širšího strategického soupeření, nikoli v podmínkách hotové shody na správě AI. 3