Jednání Trumpa a Si Ťin-pchinga o AI: spíš krizová linka než bezpečnostní dohoda

Mohou Spojené státy a Čína spolupracovat na bezpečnosti umělé inteligence, aniž by zpomalily vlastní vývoj? Zprávy kolem schůzky Donalda Trumpa a Si Ťin-pchinga z 24. září ukazují především na užší možnost: dát oběma vládám způsob, jak se rychle spojit při závažném incidentu. To může být užitečné, není to však totéž jako dohoda o závazných bezpečnostních opatřeních.12451

Co bylo konkrétně na stole

Americký ministr financí Scott Bessent po jednání s čínským vicepremiérem Che Li-fengem uvedl, že USA navrhly mechanismus vzájemného upozorňování na incidenty související s AI. Měli jej posoudit prezidenti obou zemí. Uvažovaný dialog se měl soustředit zejména na události natolik vážné, že by mohly představovat problém pro národní bezpečnost. Nejjasnější dostupné zprávy jej popisují jako americký návrh, nikoli jako zveřejněný soubor společných pravidel.13

Přímý komunikační kanál by mohl pomoci, pokud by jedna strana závažný incident chybně vyhodnotila jako nepřátelský krok druhé. Samotná povinnost informovat však ještě neznamená, že budou firmy či vlády muset před nasazením pokročilých modelů provádět určité testy, umožnit nezávislou kontrolu nebo zastavit nebezpečný systém.

Dvě prohlášení, žádný společný standard

Trump před schůzkou odmítal nové regulace AI a řekl, že v případě potřeby mohou zasáhnout americké orgány činné v trestním řízení včetně ministerstva spravedlnosti. Také napsal, že takzvaná „superinteligence“ bude důležitým tématem jednání, ale že ji chce „nechat přesně tak, jak je“. Jeho výroky ukazují na neochotu zavádět nové preventivní překážky; samy o sobě ovšem nedokládají, že s ním Čína souhlasila.5022

Si veřejně řekl, že obě země mají odpovědnost AI rozvíjet a řídit tak, aby zůstala pod lidskou kontrolou.24 Jde o obecný princip, nikoli o oznámení vzájemných povinností. Agentura Bloomberg před schůzkou uvedla, že ani jedna vláda nenaznačila úmysl zpomalit vývoj AI.51

Bezpečnost AI a vývoz čipů nejsou stejná otázka

Šéf OpenAI Sam Altman a šéf společnosti Anthropic Dario Amodei vystoupili v Radě bezpečnosti OSN s výzvou k mezinárodní koordinaci v otázce rizik AI. Amodei rovněž prosazoval pomalejší a důsledněji sledovaný vývoj, včetně nezávislého monitorování a širší regulace.1748 Jejich návrhy ukazují, jak by mohl vypadat preventivnější přístup — nikoli že jej vlády přijaly.

Současně američtí demokratičtí senátoři včetně Chucka Schumera a Elizabeth Warrenové žádali přísnější omezení vývozu vyspělých čipů pro AI a zařízení na jejich výrobu do Číny. Chtěli také hlasování o příslušných návrzích zákonů.3545 Omezovat přístup soupeře k technologiím je ale jiná politika než společně zavést bezpečnostní testy či limity pro nasazování AI. Jednání prezidentů navíc zahrnovala i obchod a další sporné otázky; dostupné podklady tedy neukazují, že by bezpečnost AI ovládla celý summit.34

Podle čeho poznat skutečnou dohodu?

Rozhodující by byl zveřejněný text určující, které systémy a incidenty pravidla pokrývají, kdo a do kdy musí podat hlášení a jak se bude plnění kontrolovat. Závaznější bezpečnostní spolupráce by musela řešit i postup před nasazením rizikových systémů: například společné požadavky na hodnocení, možnost nezávislého ověření a důsledky porušení pravidel.

Jeden zdroj popisuje komunikační kanál jako již dohodnutý, zatímco nejpřímější zprávy o Bessentových jednáních mluví o americkém návrhu předloženém prezidentům k posouzení.131 Bez zveřejněných podmínek a dokladů o fungování mechanismu je proto nejpřesnější závěr tento: jde o možný krok ke zvládání krizí v rámci pokračujícího soupeření, nikoli o prokázanou závaznou dohodu o bezpečnosti AI.