Nejvyspělejší AI má zůstat pod lidskou kontrolou. Státy chtějí společná pravidla

Nejvyspělejší modely umělé inteligence se rychle vyvíjejí, ale pravidla pro jejich bezpečnost vznikají převážně na úrovni firem a jednotlivých států. Právě obava, že takový postup nemusí stačit na rizika přesahující hranice, vedla Finsko a Norsko k mezinárodní výzvě k silnější spolupráci.312

Výzvu nazvanou A Call for Control of Frontier AI Models představily 21. září 2026 při zasedání Valného shromáždění OSN v New Yorku. Při jejím zahájení ji podpořilo 20 zemí včetně Singapuru a Evropská komise zastupující EU.410 Mezi iniciátory byli finský prezident Alexander Stubb a norský premiér Jonas Gahr Støre.19

Přínosy ano, ale s člověkem u řízení

Singapurský premiér Lawrence Wong vystihl důvod podpory výzvy: AI podle něj nabízí mimořádné možnosti, musí však zůstat pod lidskou kontrolou a dohledem. K tomu je podle jeho vyjádření potřeba silnější mezinárodní spolupráce.10 Deklarace tedy nestaví přínosy technologie proti bezpečnosti; usiluje o podmínky, za nichž ji lze rozvíjet odpovědně.410

Navrhovanou odpovědí jsou společné bezpečnostní standardy a mechanismy, které umožní ověřovat jejich dodržování. Účastníci také otevřeli možnost vzniku mezinárodní instituce, jež by standardy stanovovala a dohlížela na jejich uplatňování. Samotná výzva ale žádný nový regulační orgán OSN nezřídila.35

Text zveřejněný nizozemskou vládou vyzývá firmy k transparentním bezpečnostním postupům, včetně testování před nasazením modelů a nezávislého hodnocení. Volá také po koordinaci společných standardů mezi vládami a regionálními organizacemi.9

Proč záleží na mezinárodní shodě

Smyslem společného postupu je, aby dohled nad modely schopnými působit napříč zeměmi nezávisel výhradně na rozhodnutí jedné firmy nebo vlády.312 Významnou hranici současné shody ovšem ukazuje neúčast Spojených států a Číny. Dostupné podklady neumožňují spolehlivě určit, proč se nepřipojily.6

Zářijová výzva zapadá do širší debaty o bezpečnosti pokročilé AI. Microsoft dříve téhož měsíce zveřejnil zásady pro vývoj svých nejvyspělejších modelů.2 Anthropic a Accenture zase oznámily spolupráci na jejich nezávislém hodnocení.1 Z těchto souběžných kroků však nelze vyvozovat, že některý z nich deklaraci přímo vyvolal.