Výzva zpomalit vývoj nejpokročilejších systémů umělé inteligence se v Číně setkala s podezřením, že nejde jen o bezpečnost. Státní média ji představila také jako možný nástroj k omezení čínských konkurentů. Zároveň však Peking ve svém aktualizovaném bezpečnostním rámci popsal rizika spojená s rychlým rozvojem AI.
1
2
6
7
Peking v debatě slyšel geopolitiku
Šéf společnosti Anthropic Dario Amodei navrhl zpomalit růst schopností nejpokročilejších modelů, aby byl větší prostor na zvládání jejich rizik. Jeho výzvu podpořili šéf OpenAI Sam Altman a Elon Musk.
3
14
China Daily označil tento tlak za „sobeckou“ snahu zachovat americkou převahu. Komentář deníku argumentoval, že poté, co americká omezení na vývoz čipů a zařízení nezabránila čínským firmám vyvíjet konkurenceschopné modely, se omezení mohou přesouvat od hardwaru k samotnému softwaru a jeho vývoji. To je interpretace listu, nikoli doložený popis motivů jednotlivých technologických šéfů.
2
11
Státem podporovaný Global Times popsal Amodeiho návrh jako „příručku studené války“ namířenou proti Číně. Mluvčí čínského ministerstva zahraničí Kuo Ťia-kchun varoval před „narativy o hrozbě“, konfrontací a tvrdou soutěží, které podle něj narušují snahy o globální správu AI.
1
7
Čína rizika uznává, plošné zpomalení ale neprosazuje
Čína 14. září zveřejnila aktualizovaný rámec pro správu bezpečnosti AI. Dokument se věnuje mimo jiné autonomním agentům, kybernetickým hrozbám a takzvanému rekurzivnímu sebezdokonalování: možnosti, že systémy AI pomáhají zlepšovat další systémy, které je následují.
11
17
Uznání těchto rizik ale samo o sobě neznamená, že Peking podporuje všeobecné zpomalení vývoje nebo zvláštní omezení namířená proti čínským vývojářům. Spor se tak netýkal jen toho, jak nebezpečná může být pokročilá AI, ale také toho, kdo bude pravidla určovat a zda se bezpečnostní opatření nestanou součástí technologického soupeření.
2
6
7
Proč se spolupráce hledá těžko
Před plánovaným setkáním Donalda Trumpa a Si Ťin-pchinga mohla být společným tématem technická debata o testování, dohledu a rizicích pokročilých modelů. Čínské odmítání omezení, která by podle Pekingu dopadala především na jeho firmy, však případnou dohodu komplikovalo. Trump zároveň odmítal zastavit americký závod v AI kvůli konkurenci s Čínou. Dostupné zprávy nedokládají, že by z této debaty vzešla společná dohoda o zpomalení vývoje.
4
6
14