Šéf OSN pro lidská práva varoval před existenčním rizikem AI

Volker Türk, vysoký komisař OSN pro lidská práva, ve svém projevu 7. září před Radou OSN pro lidská práva varoval, že pokročilá umělá inteligence se může stát „existenčním rizikem pro lidstvo“. Podle něj nestačí obecné přísliby technologických společností: státy a firmy musí zavést vymahatelné bezpečnostní mechanismy bez odkladu. Šlo o jeho první vystoupení před 47člennou Radou po získání bezprecedentního druhého čtyřletého mandátu. 312

Co požaduje pro AI

Türk upozornil, že vyspělé systémy AI by mohly narušit kritickou infrastrukturu, komunikaci, základní služby i demokratické instituce. Volal proto po „neotřesitelných zárukách“ bezpečnosti, po závazných pravidlech a nezávislém dohledu. Země, v nichž sídlí technologické společnosti, i státy zapojené do dodavatelských řetězců AI by se podle něj měly shodnout na jasných nepřekročitelných hranicích. 367

Jeho hlavní výhrada zní, že schopnosti AI postupují rychleji než ochranná opatření. Türk poukázal na hlášený incident spojený s platformou Hugging Face jako na příklad toho, že systémy mohou být dostupné či schopné dříve, než pro ně existují odpovídající kontroly. Varoval také před soustředěním rozhodující moci nad AI do rukou úzké skupiny šéfů velkých firem. 17

Další témata projevu

• Imigrační vazba v USA: Türk požadoval vyvození odpovědnosti za 23 úmrtí v imigrační vazbě v USA od začátku roku 2026. Washington vyzval, aby nevyhošťoval lidi do zemí, kde by jim hrozila nenapravitelná újma. Znepokojily ho také zprávy o plánu vybavit příslušníky imigračních orgánů rukavicemi s elektrickým šokem, které by podle něj mohly zvýšit násilí. 78

• Ukrajina a autonomní zbraně: Odsoudil pokračující ruské útoky na Ukrajinu a vyjádřil zděšení nad zprávami, podle nichž plně autonomní ruské drony v předchozím měsíci zabily tři Ukrajince. Vyzval k mezinárodnímu zákazu zbraňových systémů, které samy vybírají a zabíjejí lidi bez skutečného lidského zapojení. 1

• Írán: Kritizoval růst počtu poprav a rozsudků smrti, včetně případů spojovaných s obviněními z ohrožení národní bezpečnosti. Jeho úřad již dříve uvedl, že od 19. března bylo v Íránu popraveno nejméně 56 lidí na základě takových obvinění. 4

• Války a ekonomické zájmy: Türk upozornil, že ve světě probíhá více než 60 válek, do nichž je zapojen alespoň jeden stát — nejvíce od druhé světové války. Úřad OSN pro lidská práva proto chce důkladněji prověřovat a zveřejňovat firmy, finančníky a další ekonomické aktéry, které označil za „stínové hráče“ konfliktů. 17

• Izrael a okupovaný Západní břeh: Státy vyzval k zastavení transferů zbraní, pokud hrozí, že budou použity k porušování mezinárodního práva. Firmy pak vyzval, aby ukončily obchodní praktiky podporující osady. Zmínil i chystanou aktualizaci seznamu podniků působících v izraelských osadách na okupovaném Západním břehu; OSN tyto osady považuje za nelegální podle mezinárodního práva, Izrael toto hodnocení odmítá. 17

Türkův projev tak spojil technologické riziko s tradiční agendou lidských práv: jeho vzkazem bylo, že bez pravidel, kontroly a odpovědnosti může moc — ať už ji drží vlády, ozbrojené skupiny nebo technologické firmy — působit škody rychleji, než na ně instituce dokážou reagovat.