Volker Türk: Dobrovolné sliby o bezpečnosti AI zdaleka nestačí

Závod o stále schopnější umělou inteligenci nelze nechat jen na závazcích samotných technologických firem. V otevřeném dopise to uvedl vysoký komisař OSN pro lidská práva Volker Türk. Dobrovolná samoregulace společností vyvíjejících nejpokročilejší systémy AI podle něj „zdaleka nestačí“ — ani na řešení škod, které už vznikají, ani na prevenci situací, kdy by autonomní modely mohly obcházet lidské pojistky. 7

Co Türk požaduje od států a technologických firem

Türk se obrátil zároveň na vlády i na společnosti vyvíjející takzvanou frontier AI, tedy systémy na samé hranici současných schopností. Jeho základní požadavek zní: rizika nesmí určovat úzká skupina firem bez veřejné kontroly a vymahatelných pravidel. 7

Z dopisu a navazujícího zpravodajství vyplývají zejména tyto kroky:

• Závazná pravidla postavená na lidských právech. Státy mají posílit regulaci namísto spoléhání na dobrovolné firemní přísliby a spolupracovat přes hranice, aby nevznikaly mezery mezi národními pravidly. 7
• Průběžná náležitá péče v oblasti lidských práv. Vývojáři AI mají po celý životní cyklus systému zjišťovat skutečné i možné dopady na lidská práva a reagovat na ně. Nejde tedy o jednorázové formální posouzení: metodika OSN popisuje tento postup jako nepřetržitý proces identifikace rizik, přijetí opatření, ověřování jejich účinnosti a komunikace výsledků.
• Nezávislé technické posuzování a ověřování. Bezpečnostní záruky musí být ověřitelné nezávisle, nikoli přijímané pouze na základě vlastních ujištění společností. 7
• Naléhavý mnohostranný postup. Pravidla pro nejpokročilejší AI a odpovídající bezpečnostní záruky musí vznikat koordinovaně mezi státy a institucemi. 79

Proč přišla výzva právě teď

Türkův dopis přichází v době veřejného sporu uvnitř odvětví o tom, jak rychle mají přední laboratoře postupovat k autonomnějším a potenciálně sebezdokonalujícím se systémům.

Výzkumník Jacob Coxon, který působil v OpenAI i Anthropic, v září 2026 z Anthropic odešel. Uvedl, že firmy směřují k sebezdokonalující se superinteligenci a přitom „hazardují s našimi životy“. Coxon také řekl, že někteří lidé pracující na AI věří, že by technologie mohla do konce desetiletí „zabít nás všechny“. Jde o varování připisované Coxonovi a dalším znepokojeným vývojářům, nikoli o potvrzenou předpověď. 68

Současně iniciativa zaměstnanců nazvaná Pacing the Frontier vyzvala americkou vládu, aby podpořila mezinárodní úsilí o vytvoření technických a správních nástrojů pro záměrné zpomalení vývoje nejpokročilejší AI v okamžiku, kdy předbíhá schopnost lidstva nad ní bezpečně dohlížet. Web iniciativy uvádí 1 386 signatářů z firem pracujících na špičkové AI. 15

Rostoucí podpora „udržování tempa“ vývoje je významná, sama o sobě ale neřeší otázku odpovědnosti. Podle Türka dobrovolné závazky — i pokud je podporují lidé přímo z oboru — nemohou nahradit veřejné a vymahatelné pojistky. 7

Současné škody i vzdálenější rizika v jednom rámci

Türk problém nepostavil jen jako vzdálený scénář zániku lidstva. Dobrovolnou samoregulaci označil za nedostatečnou jak pro řešení už existujících škod, tak pro zabránění tomu, aby pokročilé autonomní modely obcházely lidské bezpečnostní mechanismy. 7

Dostupné zpravodajství však nenabízí úplný bodový výčet konkrétních současných škod, které měl Türk v dopise na mysli. Nebylo by proto přesné připisovat mu konkrétní kategorie dopadů nad rámec tohoto obecného varování. Jisté je jeho měřítko pro správu AI: lidská práva mají zůstat v centru návrhu, nasazování, hodnocení i řízení těchto systémů. 7

Kde zůstává mezera

Mezi částí hlasů z odvětví AI a varováním OSN se rýsuje společný bod: vývoj schopností může být nutné cíleně řídit tempem a podrobovat nezávislému hodnocení. 715

Nevyřešená zůstává politika. Prohlášení podporovaná lidmi z oboru mohou přispět ke koordinaci, ale sama neurčují společné prahy, nevynucují zveřejňování informací, nezavádějí nezávislé testování ani nezajišťují nápravu a odpovědnost při vzniku škod. Türk proto vyzývá vlády, aby tuto mezeru uzavřely rychlou mnohostrannou regulací opřenou o mezinárodní právo v oblasti lidských práv. 79

Pro politiky i organizace pořizující AI z toho plyne praktický závěr: bezpečnostní tvrzení by měla být podložena doklady o průběžném vyhodnocování rizik pro lidská práva, vnějším přezkumem a jasně vymezenou odpovědností — ne pouze dobrovolným příslibem firmy, která systém vyvíjí.