Proč Singapur a dalších 19 zemí žádají společný dohled nad nejpokročilejší AI

Nejpokročilejší modely umělé inteligence se vyvíjejí rychleji, než na to podle signatářů stačí bezpečnostní pravidla jednotlivých států. Proto Singapur a dalších 19 zemí podpořily výzvu A Call for Control of Frontier AI Models, představenou 21. září 2026 při zasedání Valného shromáždění OSN v New Yorku. Připojila se také Evropská komise. Cílem je zachovat lidskou kontrolu nad AI a zároveň umožnit zemím využívat její přínosy.13133

Proč se připojil Singapur

Singapurský premiér Lawrence Wong vystihl postoj své země jako hledání rovnováhy: AI podle něj nabízí mimořádné možnosti, musí však zůstat pod lidskou kontrolou a dohledem. Singapur byl jedinou zemí jihovýchodní Asie v původní skupině podporovatelů výzvy.617

Prohlášení uznává, že AI může zlepšovat životy, posouvat vědu a posilovat ekonomiky. Současně varuje před bezpečnostními riziky spojenými s rychlým vývojem nejvyspělejších modelů, na něž samotná národní opatření nemusejí stačit. Požaduje, aby AI podléhala lidskému dohledu a byla vyvíjena i používána v souladu s mezinárodním právem.1331

Co by se mělo změnit

Výzva rozděluje úkoly mezi firmy, vlády a členské státy OSN. Žádný nový globální úřad však sama nezřizuje.2936

• Firmy mají zavést transparentní bezpečnostní postupy, včetně povinného testování před nasazením modelů a nezávislého hodnocení. Kvalifikovaní hodnotitelé mají dostat dostatečný přístup k posouzení rizik.30
• Vlády a regionální organizace mají slaďovat společné standardy a sdílet zprávy o závažných bezpečnostních incidentech. Návrhy počítají také s širším přístupem k vědeckým znalostem, odbornosti a důvěryhodným hodnocením.2530
• Členské státy OSN mají navázat na existující mechanismy a prozkoumat možnost nové mezinárodní instituce. Ta by mohla stanovovat standardy, umožňovat ověřování a svolávat státy k jednání, pokud AI překročí stanovené prahy schopností. Zatím jde o návrh, nikoli o fungující orgán.2936

Jádrem výzvy jsou tedy testování, ověřování a koordinovaný dohled. Citované návrhy výslovně nepožadují zastavení vývoje nejpokročilejší AI.293036

Kdo výzvu podpořil — a kdo zatím ne

Iniciativu zahájili finský prezident Alexander Stubb a norský premiér Jonas Gahr Støre. Podle finské prezidentské kanceláře tvořily původní skupinu Finsko a Norsko spolu s Dánskem, Islandem, Estonskem, Lotyšskem, Nizozemskem, Irskem, Německem, Španělskem, Moldavskem, Tureckem, Spojenými arabskými emiráty, Bahrajnem, Kazachstánem, Singapurem, Keňou, Jihoafrickou republikou, Kanadou a Austrálií; podpořila ji také Evropská komise. Později se přidali další podporovatelé, takže tento výčet zachycuje stav při zahájení iniciativy, nikoli konečný seznam.33

Spojené státy a Čína k původnímu prohlášení nepřistoupily. Stubb uvedl, že chce získat další účastníky; z neúčasti obou zemí ale nelze vyvozovat, proč se nepřipojily.9 Generální tajemník OSN António Guterres iniciativu uvítal a podpořil zejména úvahy o standardech, ověřování a mechanismu, který by státy svolal při překročení prahů schopností AI.36

Výzva vznikla v době, kdy se bezpečností nejpokročilejších modelů zabývaly i technologické firmy. Microsoft zveřejnil zásady pro vývoj svých modelů a Anthropic několik dní před představením prohlášení oznámil spolupráci s Accenture na jejich nezávislém hodnocení. Tyto kroky dokreslují širší debatu, nejsou však důkazem, že právě ony rozhodnutí států vyvolaly.3940