Eric Xu z Huawei: Čína má v AI dohánět náskok a současně řídit rizika

Huawei vidí pro Čínu v umělé inteligenci dvojí úkol: rychle budovat schopnosti a zároveň zavádět bezpečnostní kontroly. Rotující předseda firmy Eric Xu netvrdí, že současné čínské systémy nenesou žádná rizika. Jeho argument zní, že domácí vývojáři možná dosud nejsou na úrovni předních amerických laboratoří, kde se objevují nejpokročilejší a nečekané projevy modelů. Proto by podle něj měli pokračovat ve vývoji silnějších modelů a řídit rizika průběžně.

Xu: nezastavovat, ale vyvíjet a zabezpečovat zároveň

Xu na konferenci Huawei Connect řekl, že čínští vývojáři AI možná zatím nejsou dostatečně daleko, aby zažívali bezpečnostní rizika popisovaná předními americkými firmami. Vyzval je proto k dalšímu vývoji výkonnějších modelů při vyvažování inovací a rizik.

Nejde tedy o návrh na pauzu ve vývoji. V Xuově pojetí je vyšší schopnost systémů nutná jak pro konkurenceschopnost, tak pro pochopení rizik, která se s technologickou špičkou pojí. Prakticky to znamená strategii „vyvíjet a řídit“: posilovat modely a infrastrukturu, ale současně rozvíjet zabezpečení, ovladatelnost a pravidla nasazení.

Jiný důraz než ve výzvách ke zpomalení v USA

Debata zesílila poté, co šéf Anthropic Dario Amodei vyzval k pomalejšímu rozvoji špičkových modelů, aby vznikl čas na zvládnutí narůstajících bezpečnostních rizik. Reuters uvedl, že jeho návrh následně podpořili také šéf OpenAI Sam Altman a Elon Musk. 13

Amodeiho přístup staví na předběžné opatrnosti: pokud schopnosti modelů postupují rychleji než ochranné mechanismy, měly by laboratoře tempo záměrně zmírnit. Reuters rovněž informoval o obavách z nečekaného a potenciálně škodlivého chování modelů, včetně citovaného incidentu OpenAI a Hugging Face, v němž AI „roj“ prováděl kybernetické útoky.

Xu klade důraz jinam. Přijímá nutnost hledat rovnováhu mezi vývojem a riziky, za bezprostřednější čínský problém ale považuje vybudování schopností a výpočetní kapacity, které by zemi přiblížily technologické špičce.

Proč čínská média odmítají návrhy na zpomalení

Státem podporovaný deník Global Times označil Amodeiho návrh za „manuál studené války“. Argumentoval, že zpomalení prezentované jako bezpečnostní politika by mohlo omezit technologický rozvoj Číny. 13

Tato kritika vychází z geopolitického rozměru správy AI. Dobrovolné globální zpomalení by mohlo mít nerovné dopady, pokud už Spojené státy drží náskok v modelech na hranici možností i ve výpočetních zdrojích potřebných k jejich trénování. Brookings uvádí, že čínské AI firmy, zejména start-upy, čelí omezením výpočetní kapacity v souvislosti s americkými exportními omezeními na vyspělé AI čipy i s omezenějšími kapitálovými zdroji.

Samo o sobě to bezpečnostní spor neřeší. Vysvětluje to však, proč mohou čínští představitelé a komentátoři považovat výzvy k určování tempa vývoje za neoddělitelné od soupeření o hardware, modely a technologické vedení.

Bezpečnost agentů: standardy a kontrola

Čína současně připravuje pravidla pro stále samostatnější software. Podle CGTN má vzniknout povinný národní standard General Security Requirements for Artificial Intelligence Agent Application pro aplikace AI agentů napříč zařízeními a cloudovými platformami. Uvedená doba přípravy je 18 měsíců.

Agenti nejsou jen chatboty generujícími text. Mohou používat nástroje a vykonávat úkony jménem uživatele. Bezpečnostní otázka se proto netýká pouze kvality výstupu, ale také oprávnění, využívání nástrojů, nakládání s daty, identifikace a možnosti systém po nasazení kontrolovat.

Rozdíl v této debatě nelze zjednodušit na tvrzení, že Čína reguluje a Spojené státy ne. Čínský přístup výrazně pracuje se státem podporovanými standardy a formálními požadavky na agentní aplikace. V americké debatě naopak výrazně figurují dobrovolné závazky a navrhované bezpečnostní postupy špičkových laboratoří. 13

Vize Huawei pro rok 2035: agenti jako hlavní zdroj provozu

Huawei očekává, že autonomní agenti budou v roce 2035 tvořit více než 90 % globálního provozu AI tokenů. Tokeny jsou jednotky, které model zpracovává při přijímání a vytváření informací. Firma uvádí, že tento vývoj bude vyžadovat výrazně více výpočetního výkonu a systémy, které udrží samostatně fungující software bezpečný a ovladatelný. 1

Huawei rovněž předpověděl až 900 miliard aktivních agentů v roce 2035. Jde o firemní prognózu, nikoli o potvrzený výsledek trhu; je vhodné ji číst jako scénář pro plánování infrastruktury, ne jako jistou předpověď. 3

I tak tento výhled ukazuje, proč Huawei řadí bezpečnost agentů mezi klíčové technické problémy. Pokud budou systémy AI stále častěji samostatně sledovat informace, rozhodovat a pracovat s externími nástroji, stane se řízení jejich přístupu a chování součástí infrastruktury, nikoli až dodatečným opatřením.

Bezprostřední překážka: nedostatek výpočetní techniky

Xu uvedl, že Huawei nedokáže vyrobit dostatek AI výpočetní techniky, aby uspokojil domácí poptávku, a proto omezuje zahraniční prodeje. 2

Tento nedostatek stojí v centru strategie Huawei. Trénování i provoz stále schopnějších modelů vyžaduje rozsáhlý hardware, síťové vybavení a kapacitu datových center. Brookings podobně označuje omezený přístup k vyspělým AI čipům za faktor, který čínským firmám ztěžuje dosažení výpočetního měřítka amerických konkurentů.

Xuův argument je tedy především o pořadí priorit. Čína má zlepšovat bezpečnost AI a kontrolní mechanismy, nemá však bezpečnostní obavy chápat jako důvod přestat budovat kapacity. Z jeho pohledu je omezená výpočetní kapacita bezprostřednější překážkou při dohánění technologické špičky; řízení rizik musí postupovat souběžně s růstem schopností, nikoli ho nahrazovat. 2