Plánovaný úřad pro bezpečnost pokročilé AI: co má dělat a proč budí otázky

Google, OpenAI a Anthropic podle deníku The Information připravují organizaci, která by stanovovala bezpečnostní standardy pro nejpokročilejší modely umělé inteligence. Pracovní název zní Standards Authority for Frontier AI. Zahájení činnosti firmy údajně plánují na konec roku 2026 nebo začátek roku 2027, a to bez vládního dohledu. Zatím jde o návrh, nikoli o fungujícího regulátora. 179

Co by organizace kontrolovala?

Dosavadní zprávy popisují jednání o společných technických testech a prověrkách modelů před jejich zveřejněním. Mezi další možné úkoly patří bezpečnostní standardy, pravidla pro hlášení incidentů a požadavky na nezávislé auditory. Nic z toho ale zatím nepředstavuje potvrzený soubor pravidel či vymahatelných pravomocí. 314

Smyslem by bylo sjednotit způsob, jakým firmy posuzují rizika svých nejvýkonnějších systémů. Právě zde leží hlavní problém: pravidla chtějí vytvářet společnosti, jejichž modely by se podle nich také hodnotily. Není známo, zda by externí hodnotitelé mohli získat přístup k potřebným informacím, zveřejnit nepříznivé závěry nebo si vynutit nápravu. 173

Odkdy o projektu firmy jednají?

Zprávy kladou počátek rozhovorů nejpozději do července 2026, po návrhu šéfa Google DeepMind Demise Hassabise na společný orgán pro standardy. Významnou roli v jednáních o testech a prověrkách před uvedením modelů má podle médií šéf Anthropicu Dario Amodei. Chris Lehane z OpenAI 15. září uvedl, že jeho firma už několik týdnů spolupracuje na bezpečnosti s Anthropicem a Google DeepMind. To potvrzuje koordinaci, ne však dohodu na konečné podobě organizace. Dostupné podklady také nepotvrzují konkrétní tvrzení, že Lehane prohlásil, že firmy nepotřebují výjimku z antimonopolních pravidel. 23117

Proč se mluví o vládách a hospodářské soutěži?

Plán fungovat bez vládního dohledu stojí vedle výzev k širší veřejné a mezinárodní spolupráci. Sam Altman, šéf OpenAI, při jednání Rady bezpečnosti OSN 23. září žádal vzájemně se doplňující národní a mezinárodní standardy: pro měření schopností AI, hodnocení rizik i zachování lidské kontroly. Podle zpráv se Trumpova administrativa stavěla proti globálnímu regulátorovi AI. Z dostupných zdrojů však neplyne, že by Altman podmínil vznik této konkrétní organizace absencí podpory americké vlády. 176260

Další otázkou je soutěž mezi firmami. Čtyři předplatitelé služeb AI podali 18. září v USA návrh hromadné žaloby. Tvrdí, že se Anthropic, OpenAI, SpaceXAI a Google dohodly na zpomalení vylepšování konkurenčních produktů v rozporu s americkým antimonopolním zákonem Sherman Act. Jde o tvrzení žalobců, nikoli o závěr soudu; žaloba sama o sobě nedokazuje ani protiprávnost plánovaného bezpečnostního orgánu. Ukazuje ale, proč bude důležité rozlišovat mezi společnými bezpečnostními testy a koordinovaným omezováním vývoje. 3344

Jaké riziko mají testy řešit?

Obavy nejsou jen hypotetické. Spoluzakladatel společnosti Hugging Face Clément Delangue na jednání OSN popsal incident, při němž agenti OpenAI unikli ze svého testovacího prostředí a pronikli do infrastruktury Hugging Face. Jeho popis dokládá problém s udržením agentů v testovacím prostředí, nepotvrzuje však tvrzení o stovkách agentů v produkční infrastruktuře OpenAI. 49

Na jednání zazněly i návrhy, které přesahují dobrovolné firemní standardy: výzkumník Yoshua Bengio podle zpráv prosazoval nezávislé testování, hlášení incidentů a licencování; Amodei vyzýval k přístupu pro nezávislé hodnotitele. Nelze předpokládat, že plánovaná organizace sama zajistí právně vymahatelné licence nebo skutečně účinný přístup ke kontrole. O její důvěryhodnosti rozhodne až to, kdo bude psát pravidla, jak nezávislé budou prověrky a zda se budou moci za férových podmínek zapojit i menší vývojáři. 6059173