Andrew Ng odmítl scénáře vyhynutí lidstva kvůli AI a vyzval k řešení konkrétních rizik

Andrew Ng v rozhovoru pro Bloomberg TV ze 17. září odmítl představu, že umělá inteligence pravděpodobně povede k vyhynutí lidstva. Takové obavy označil za „mnohem více science fiction než vědu“. Neříká přitom, že AI bude vždy předvídatelná. Podle něj je ale nejistota v chování systémů především technický a inženýrský problém, který je třeba průběžně řídit — nikoli důvod k plošnému zastavení vývoje. 10

Proč Ng zpochybňuje katastrofické scénáře

Ng upozornil, že rétorika o existenční hrozbě může společnost odvádět od praktických přínosů umělé inteligence. Připomněl, že technologický sektor v dřívějších fázích AI boomu podobné obavy přiživoval; podle něj to mohlo sloužit k získání publicity a k ovlivnění pravidel pro regulaci. 8

Jeho výhrada míří také k tomu, jak by taková regulace mohla být nastavena. Pravidla soustředěná hlavně na největší takzvané frontier modely — tedy nejvýkonnější modely na technologické hranici — mohou zvýhodnit kapitálově silné zavedené laboratoře, které si snadněji poradí s náklady na dodržování předpisů. 810

Ng však netvrdí, že se má na bezpečnost rezignovat. Naopak chce důsledné testování, ochranné mechanismy a standardní inženýrské postupy zaměřené na konkrétní selhání, zejména na kybernetická rizika a další předvídatelné škody. AI podle něj nikdy nebude dokonale předvídatelná, její spolehlivost se ale může postupně zvyšovat vyhodnocováním, bezpečnostními zábranami a opakovaným technickým vylepšováním. Varoval také, že příliš široké zpomalení vývoje by mohlo zpomalit samotný pokrok v bezpečnosti. 10

Kde stojí ve sporu o zpomalení AI

Ngův postoj kontrastuje se skupinou představitelů oboru, kteří považují riziko ztráty lidské kontroly nad velmi vyspělou AI za dostatečně reálné na to, aby ospravedlnilo vědomé omezení tempa vývoje.

• Jacob Coxon, bývalý výzkumník OpenAI a Anthropicu, z Anthropicu odešel s varováním, že rychlý a nedostatečně kontrolovaný postup — zejména směřování k systémům schopným se samy zlepšovat — může přinést vážnou katastrofu. Vyzval ke zpomalení. 214
• Dario Amodei, šéf Anthropicu, navrhl zpomalit růst schopností frontier modelů, aby vznikl čas na řízení rizik. Jeho plán počítá mimo jiné se silnějším nezávislým posuzováním pokročilých modelů. Nevolá po ukončení výzkumu, ale tvrdí, že rozvoj schopností předběhl bezpečnostní a správní mechanismy. 36
• Sam Altman, generální ředitel OpenAI, se připojil k základnímu argumentu pro zpomalení a ochranná opatření, protože odvětví se může blížit systémům, které lidé nedokážou kontrolovat. 19
• Geoffrey Hinton rovněž mluví o významné možnosti, že se AI vymkne lidské kontrole. Podporuje pomalejší vývoj a opatření, jako je testování před uvedením nových systémů na trh. 16

Hlavní rozdíl se tedy týká odhadované pravděpodobnosti a politické priority. Coxon, Amodei, Altman a Hinton berou riziko ztráty kontroly natolik vážně, že chtějí cíleně brzdit vývoj nejpokročilejších schopností. Ng považuje scénáře vyhynutí za spekulativní a dává přednost řešení bezprostřednějších, pozorovatelných problémů běžnými bezpečnostními inženýrskými postupy. 31016

Kdo odmítá plošné zpomalení — a proč

V odmítání celoodvětvové pauzy se Ng částečně potkává s dalšími vlivnými hlasy, jejich motivace jsou však jiné.

• Jensen Huang, šéf Nvidie, vystoupil proti novým zákonům specificky zaměřeným na AI a zpochybnil potřebu širokého zpomalení. 517
• Mark Zuckerberg, šéf Mety, odmítl celooborovou pauzu s argumentem, že firmy budou k bezpečnějším modelům tlačeny konkurencí a tržními pobídkami. 7
• Prezident Donald Trump odmítl výzvy ke zpomalení, nebezpečí AI označil za „hoax“ a uvedl, že Spojené státy už mají nástroje k regulaci sektoru i postihu pochybení. Zdůrazňoval rovněž konkurenceschopnost USA, zejména vůči Číně. 57
• Čínské ministerstvo zahraničí se také postavilo proti výzvám ke zpomalení frontier AI, což odráží odmítání globální pauzy, která by byla stanovena zvenčí. 11

Ng s nimi sdílí odpor k plošnému zpomalení, nikoli nutně jejich argumentaci. Jeho přístup je technokratický: soustředit se na měřitelné poruchy a technické kontroly. Huang, Zuckerberg, Trump a čínští představitelé kladou větší důraz na inovace, soutěž a skepsi vůči dalším omezením. 571011

Dostupné zdroje neposkytují dostatečný podklad pro spolehlivý popis konkrétních postojů Aidana Gomeze a Steva Eismana ke zpomalování vývoje v celém odvětví, bezpečnostnímu výzkumu, regulaci a mezinárodní správě AI.