Demis Hassabis navrhl globální dohled nad nejpokročilejší AI. Co skutečně rozhodla skupina G7?

Co se skutečně stalo na summitu G7

Bezprostředním místem pro tuto debatu byl 52. summit lídrů G7, který se v Évian-les-Bains konal 16. a 17. června 2026 ^ANI. Hassabis, Amodei, šéf OpenAI Sam Altman a zástupci francouzské společnosti Mistral AI se tam zúčastnili pracovního oběda s prezidentem Donaldem Trumpem a dalšími představiteli G7. Tématem bylo „bezpečné, rychlé a efektivní nasazení AI“ ^L.

Důležitý je ale rozdíl mezi tím, co se na schůzce navrhovalo, a tím, co G7 skutečně přijala: mechanismus umožňující globální „pauzu“ pro nebezpečné modely schválen nebyl. Summit místo toho přinesl devět deklarací, včetně iniciativy Trusted Partners, která má spojeneckým zemím umožnit přístup k pokročilým americkým modelům dosud omezeným vývozními kontrolami, a plánu na zabezpečení digitálního prostoru pro nezletilé ^EA.

Ministři G7 pro digitální agendu už 29. května 2026 přijali deklaraci o bezpečnosti AI, jejím využívání a digitální odolnosti. Ani tento dokument však orgánu s pravomocí zastavit nasazení modelu nepřiznal žádné vymahatelné pravomoci ^GE. Výsledek summitu tak naznačuje, že politická vůle pro závazného globálního hlídače AI zatím není dostatečná ^AGB.

Proč Hassabis mluvil o globální koordinaci

Návrh na mezinárodní dohled zapadá do veřejných vystoupení, kterými Hassabis v roce 2026 upozorňoval na rychlost vývoje AI. V květnovém rozhovoru s prezidentem Stanfordovy univerzity Jonathanem Levinem označil současnou éru za „přechod na úrovni celého druhu“ a řekl, že lidstvo bude mít v příštím desetiletí „jen malý prostor pro chybu“ ^S.

Na další akci Stanford Graduate School of Business 18. června prohlásil, že se nacházíme v „podhůří singularity“ a že bezpečné vytvoření obecné umělé inteligence (AGI) je nejdůležitější výzvou současnosti ^GS. Tato vystoupení vytvořila myšlenkový rámec pro pozdější požadavek na instituci, která by nespoléhala pouze na dobrovolné sliby jednotlivých firem.

Trumpův příkaz: americká, ale dobrovolná předloha

Dva týdny před summitem G7, 2. června 2026, podepsal prezident Donald Trump výkonné nařízení č. 14409 s názvem „Promoting Advanced Artificial Intelligence Innovation and Security“ ^WN. Nařízení žádá vývojáře AI, aby dobrovolně předkládali nové nejpokročilejší modely federální vládě k posouzení bezpečnostních rizik. Úřady na jejich přezkoumání mohou mít až 30 dní před veřejným uvedením modelu ^WN.

Klíčové je slovo dobrovolně. Nejde o povinný americký schvalovací proces, natož o globální mechanismus s pravomocí zastavit vývoj nebo nasazení. Nařízení však představuje posun od čistě pasivního přístupu k aktivnějšímu prověřování rizik ^N. Zároveň federálním úřadům ukládá vytvořit „clearinghouse“ pro kybernetickou bezpečnost AI a důsledněji uplatňovat stávající trestní předpisy proti kybernetickým útokům s využitím AI ^SLU.

Kritici upozornili, že nařízení stále nevyžaduje, aby vláda u pokročilých produktů prováděla bezpečnostní hodnocení a kybernetické testy ^U. Oproti Hassabisově představě tedy postrádá závaznost i mezinárodní dosah.

Jak do debaty zapadá panel OSN

Organizace spojených národů připravuje vlastní Nezávislý mezinárodní vědecký panel pro AI (IISP-AI), koncipovaný podle vzoru Mezivládního panelu pro změnu klimatu (IPCC). Jeho úkolem má být vytvářet autoritativní vědecká hodnocení schopností a rizik umělé inteligence.

Panel OSN má být především vědeckým poradním orgánem, nikoli institucí s výkonnou pravomocí. Mohl by poskytovat podklady pro politická rozhodnutí, neměl by však sám prověřovat každý model ani vydávat veto k jeho nasazení. Rozdíl oproti Hassabisovu návrhu je proto zásadní: OSN se zaměřuje na mezinárodní vědecký konsenzus, zatímco navrhovaný orgán by měl mít praktickou pravomoc zasáhnout před uvedením systému na trh.

Doplňovat, nebo konkurovat?

Právě zde leží hlavní nevyřešený spor současného systému správy AI ^AGB.

Argument pro doplnění stávajících pravidel

Nový orgán by mohl fungovat jako společná technická základna pro různé národní a mezinárodní rámce. G7, Evropská unie se svým aktem o umělé inteligenci i vědecký panel OSN by mohly využívat stejné standardy pro hodnocení nejpokročilejších modelů. Brookings Institution uvádí, že cílem návrhu firem bylo řešit rozdílný dohled nad AI v jednotlivých zemích ^B. Jednotná technická instituce by tuto roztříštěnost mohla omezit.

Argument pro konkurenci

Na druhou stranu by americkým vedením a pravomocí pozastavovat nasazení vzniklo riziko, že nový orgán oslabí inkluzivnější multilaterální přístup OSN. Kritici se obávají dvourychlostního systému, v němž by demokratická koalice určovala, co je „nebezpečný“ model, a americké technologické firmy by získaly nepřiměřený vliv ^A.

Výsledek summitu G7 tento problém nevyřešil. Iniciativa Trusted Partners se soustředí především na přístup spojenců k pokročilým modelům, nikoli na univerzální mechanismus jejich pozastavení ^EAB. Jak shrnula analýza summitu, jednání o AI možná více odhalilo, čemu světoví lídři zatím nerozumějí, než na čem se dokázali shodnout ^Y.

Co z návrhu zatím plyne

Hassabisův návrh představuje jednu z nejkonkrétnějších výzev šéfů technologických firem k vytvoření technicky kompetentního orgánu, který by mohl zasáhnout ještě před nasazením nebezpečných modelů. V praxi však zatím zůstává jediným z hlavních směrů správy AI, který otevřeně počítá s takzvaným „tlačítkem pauzy“.

Trumpovo nařízení pracuje s dobrovolným přezkumem pouze v USA, G7 přijala především kooperativní deklarace a program pro spojenecké země a panel OSN má poskytovat vědecké, nikoli donucovací podklady. Zůstává proto otevřeno, kdo by o pozastavení rozhodoval, jak by se takové rozhodnutí vymáhalo a jak zabránit tomu, aby se globální dohled nad AI změnil v další geopolitický blokový systém.