Altman a Amodei mají v OSN mluvit o rizicích AI. Spolupráce laboratoří už ale budí i antimonopolní otázky

Rada bezpečnosti OSN má pokročilou umělou inteligenci projednávat jako téma mezinárodní bezpečnosti: kvůli možnosti jejího zneužití, riziku, že vývojáři přestanou mít nad stále schopnějšími systémy účinnou kontrolu, i potřebě společných bezpečnostních standardů napříč státy. Přesné znění vystoupení předem zveřejněno nebylo. Francie však jednání 23. září svolala v rámci bodu „udržování mezinárodního míru a bezpečnosti“. 10

Co lze od čtveřice řečníků čekat

Sam Altman z OpenAI, Dario Amodei z Anthropicu, výzkumník Yoshua Bengio a šéf Hugging Face Clément Delangue nejspíš zdůrazní, že bezpečnost nejpokročilejších modelů nelze ponechat jen na jednotlivých firmách nebo státech. Ve hře jsou zejména společné metody hodnocení rizik, sdílení informací o nebezpečných schopnostech a incidentech, nezávislé testování a ochrana proti zneužití AI například k výrobě zbraní či dalším škodlivým účelům. Uvedeným tématem jednání jsou rizika AI pro mezinárodní bezpečnost. 10

Vzájemné testování: užitečná kontrola, ale citlivé hranice

OpenAI a Anthropic už popsaly společné pilotní hodnocení, při němž každá společnost použila vlastní bezpečnostní testy a testy možného nesouladu chování modelu na veřejně vydané modely té druhé. Výsledky následně zveřejnily. Taková reciproční kontrola může odhalit slepá místa, která interní tým vlastní firmy přehlédne. 15

Právě zde se ale otevírá obtížná hranice. Konkurenti si musí zpřístupnit dostatek informací a přístupu k modelům, aby bezpečnostní prověrka dávala smysl. Zároveň by neměli sdílet údaje, které by mohly vést ke sladění produktových plánů, termínů vydání, cen nebo tempa technického vývoje.

Proč do debaty vstupuje antimonopolní právo

Navržená hromadná žaloba spotřebitelů tvrdí, že Anthropic, OpenAI, SpaceXAI a Google uzavřely nezákonnou dohodu o zpomalení vývoje AI. Jde o tvrzení žalobců, nikoli o soudem potvrzený závěr. 1

Spor dobře ukazuje základní napětí. Zastánci bezpečnosti mohou koordinované prahy pro uvolnění modelů nebo dočasné zpomalení vnímat jako rozumné řízení rizika. Žalobci naopak mohou tutéž věc označit za omezení nabídky ze strany silných konkurentů. Vzájemné, technicky zaměřené testování veřejně dostupných modelů se proto obhajuje snáz než společná rozhodnutí o tom, kdy a jak rychle modely zlepšovat či vydávat.

Odlišný politický tón z Washingtonu

Francouzská iniciativa staví rizika nejpokročilejší AI jako problém, který vyžaduje mezinárodní koordinaci a společné pojistky. Donald Trump ve svém projevu na Valném shromáždění OSN zaujal opačný postoj: odmítl mezinárodní kontrolu AI, bezpečnostní varování označil za podvod, zdůraznil americkou výhodu v závodě o AI a uvedl, že federální vláda bude používat výraz „super intelligence“ místo „artificial intelligence“. 3 Podle dostupného zpravodajství se přejmenování má týkat oficiální komunikace americké vlády. 2

Jádro sporu je tedy jednoduché, ale politicky i právně složité: jak umožnit úzce vymezenou, ověřitelnou spolupráci na bezpečnosti AI, aniž by se změnila ve faktickou koordinaci mezi soupeřícími firmami. Francií vedená debata v OSN hledá pravidla, která by zabránila závodu ke stále slabším bezpečnostním standardům; Trumpův přístup naopak prezentuje zdrženlivost jako riziko pro technologickou konkurenceschopnost USA.