USA a Čína zvažují dialog o bezpečnosti AI. Ve hře je hlavně kybernetické riziko

Zprávy z počátku září uváděly, že Washington a Peking připravují na polovinu září samostatný dialog o rizicích umělé inteligence. Jednání by předcházelo plánované schůzce prezidenta Donalda Trumpa s čínským prezidentem Si Ťin-pchingem 24. září. Pokud by se uskutečnilo, šlo by od začátku Trumpova druhého mandátu o první oficiální bilaterální rozhovory zaměřené výhradně na AI. Jejich status je ale nejasný: Bílý dům uvedl, že v dané době žádné setkání související s AI naplánováno nebylo. 1

Co je potvrzené a co zůstává otevřené

Podle zdrojů mělo jednání připadnout na polovinu září, tedy před návštěvou Si Ťin-pchinga v USA plánovanou na 24. září. Americkou stranu měl podle lidí obeznámených s přípravami vést ministr financí Scott Bessent. Veřejně však nebyly potvrzeny přesné datum, místo konání, vedoucí čínské delegace, konečný seznam účastníků ani definitivní program. 12

Nejde jen o organizační detail. Dialog je proto namístě chápat jako hlášenou diplomatickou iniciativu, nikoli jako jistě potvrzený a zavedený mechanismus mezi oběma zeměmi.

Hlavní téma: kybernetické útoky řízené AI

Ústředním cílem Washingtonu má být spolupráce při sledování kybernetických útoků podporovaných AI. USA podle zpráv rovněž navrhly dobrovolný postup, při němž by americké a čínské laboratoře vyvíjející AI sledovaly zneužití svých systémů, sdílely relevantní informace a pomáhaly předcházet kybernetickým operacím spojeným s AI. 1

Takový návrh by nepředstavoval společnou kontrolu nad odvětvím AI v obou státech. Spíše by šlo o omezené snižování rizik: sdílení poznatků o závažném zneužití a možnost konzultace v okamžiku, kdy incident s využitím AI překročí hranice. Nemuselo by to automaticky znamenat zveřejňování citlivých detailů o modelech, bezpečnostních postupech ani zpravodajských informacích.

Proč je dialog důležitý před schůzkou Trump–Si

Čínští představitelé podle zpráv považují dialog o AI za významný výstup před setkáním obou prezidentů. V dřívějších debatách se objevila také možnost protokolu osvědčených postupů, který by měl bránit zneužití výkonných modelů nestátními škodlivými aktéry. 14

Důvod pro přímý komunikační kanál je zřejmý. U kybernetických incidentů bývá obtížné určit původce a systémy AI mohou škodlivé aktivity urychlit i rozšířit. Přímé spojení mezi úřady by mohlo umožnit upozornit druhou stranu na důvěryhodnou hrozbu, porovnat omezené technické poznatky a snížit riziko, že bude incident okamžitě vyložen jako úmyslný krok druhého státu.

Prostor pro spolupráci má jasné limity

Navrhovaná agenda se odehrává v prostředí širšího strategického soupeření o pokročilou AI. Spojené státy v poslední době prosazují zdrženlivý mezinárodní přístup, který se vyhýbá vytváření nových dozorových orgánů pro AI. Čínský domácí model správy technologií je naopak obecně více řízen státem. 5

Tyto rozdíly snižují šanci na brzkou širokou dohodu o kontrole modelů, duševním vlastnictví nebo pravidlech chování v kyberprostoru. I dobrovolný rámec pro sdílení informací mezi laboratořemi by musel překonat vzájemnou nedůvěru, problém ověřování i obavy z vyzrazení citlivých schopností.

Nejrealističtějším výsledkem by proto v případě uskutečnění dialogu bylo něco skromnějšího: pokračující kontakt, společná terminologie a omezené postupy pro konzultace při vážných kybernetických rizicích spojených s AI. I úzký kanál pro řešení krizí může mít význam, protože se vytváří snáz než komplexní dohoda o globální správě umělé inteligence. Dokud však obě vlády jednání a jeho složení oficiálně nepotvrdí, zůstávají jeho rozsah i vyhlídky pouze předběžné. 12