„Drazí poddaní“: Altmanův výpad odhalil krizi důvěry v umělou inteligenci

Podcastové vystoupení šéfa OpenAI Sama Altmana z 23. srpna zachytilo stále ostřejší spor uvnitř AI průmyslu. Altman v sarkastickém scénáři popsal svět, v němž firmy lidem nabídnou léčbu rakoviny, materiální blahobyt a skvělou zábavu — a výměnou za to po nich chtějí, aby si přestali stěžovat a nechali rozhodování o budoucnosti na nich. 3242

Nešlo o výslovně pojmenovaný útok na šéfa Anthropic Daria Amodeiho. Altmanova narážka však zazněla jen několik dní poté, co Amodei kritizoval průmysl za opakování velkých slibů bez odpovídajících výsledků. Říkat, že AI vyléčí rakovinu, podle něj už veřejnost neinspiruje — přesvědčit ji může jedině skutečný průlom. 1416

Co Altman myslel „drahými poddanými“

Altman nezpochybňoval samotný příslib lepší medicíny nebo většího blahobytu. Kritizoval spíše paternalistickou dohodu, v níž technologické firmy prezentují prosperitu jako kompenzaci za to, že veřejnost přijde o významnou kontrolu nad vlastní budoucností.

Tento motiv zapadá i do jeho dalších vyjádření v podcastu. Altman upozornil na dvě rizika, která jdou částečně proti sobě: AI může být natolik mocná, že ji lidé přestanou spolehlivě ovládat, a rozhodování se může soustředit do rukou několika firem, modelů nebo jednotlivců. 3135

Problém tedy není pouze technický, ale také politický. Budoucnost může být materiálně úspěšná, a přesto v ní běžní lidé nebudou mít možnost ovlivnit systémy, které určují podobu jejich práce, soukromí a institucí.

Proč se narážka spojila s Amodeim

Amodei reagoval 15. srpna na investora Gavina Bakera, který tvrdil, že jeho opakovaná varování před riziky AI podporují odpor veřejnosti k této technologii — mimo jiné i odpor k výstavbě datových center. 722

Amodei odmítl, že by problém vyřešila optimističtější komunikační strategie. Negativní postoj veřejnosti označil za „v zásadě krizi důvěry“, která vyrůstá z dlouhodobé nedůvěry vůči firmám, vládám a technologickému průmyslu. 13

Zároveň pronesl neobvykle přímou kritiku vlastního odvětví. AI firmy včetně Anthropic podle něj zatím nesplnily své velké sliby o prospěchu pro svět. Tvrzení, že AI vyléčí rakovinu, se podle Amodeiho změnilo v klišé, které mnoho lidí považuje za zavádějící. „Skutečně vyléčit rakovinu“ by podle něj bylo přesvědčivější než další reklamní kampaň. 814

Právě tady se postoje obou ředitelů překrývají. Oba varují před tím, aby veřejnost přijímala široké sliby jen na základě víry. Altman zdůrazňuje politickou cenu ztráty autonomie, zatímco Amodei mluví o ztrátě důvěry, kterou způsobují mimořádné sliby bez viditelných výsledků.

Amodei proti Bakerovu optimismu

Bakerův výklad popisoval odpor k AI především jako selhání komunikace: firmy by podle něj měly méně mluvit o katastrofických rizicích, výrazněji zdůrazňovat přínosy a technologii veřejnosti lépe vysvětlovat. Amodei namítl, že nedůvěra je starší než výroky kteréhokoli jednotlivého manažera a že ji nelze napravit naleštěnou marketingovou kampaní. 17

To neznamená, že Amodei odmítá potenciál AI. Tvrdí, že AI by mohla během přibližně pěti až deseti let pomoci vyléčit většinu lidských nemocí, zároveň ale uznává, že takové tvrzení zní mimořádně odvážně. 16

Rozdíl spočívá mezi předpovědí a výsledkem. Amodei říká, že průmysl možná má silný argument — jenže dokud lidé neuvidí konkrétní přínosy a nepochopí, jak se rozdělí, zůstane tento argument nepřesvědčivý.

Jak do sporu zapadá Zuckerberg

Generální ředitel společnosti Meta Mark Zuckerberg vykreslil optimističtější budoucnost, v níž superinteligence posílí schopnosti každého člověka a pracovních míst zůstane dostatek. Ve svém eseji „The Future is for Everyone“ o 6 500 slovech představil AI jako nástroj širokého posílení jednotlivců. 1726

Amodeiho argument o důvěře tuto vizi nepřímo zpochybňuje. Pozitivní obraz sám o sobě nestačí, pokud se lidé dál ptají, kdo modely ovládá, kdo získá vytvořené bohatství, kdo ponese rizika a zda lze technologické firmy účinně hnát k odpovědnosti.

Skepticismus se navíc netýká jen bezpečnosti AI. Zmiňovány jsou také ztráta pracovních míst, nerovnost, soukromí, odměňování tvůrců a dopad AI na společnost. Průzkum citovaný časopisem WIRED ukázal, že mnoho Američanů vnímá AI spíše negativně než pozitivně. 25

Dostupné důkazy potvrzují vážný spor o důvěru a podporu veřejnosti. Samy o sobě však neprokazují, že varování jediného ředitele způsobila odpor k datovým centrům, ani neurčují jednu změřenou příčinu případného poklesu nadšení z AI.

Hlubší rozkol: sliby versus moc

Spor mezi Altmanem, Amodeim a jejich kritiky proto není jen hádkou o tón komunikace.

• Optimismus na prvním místě: Firmy musí srozumitelněji vysvětlovat přínosy AI a nedopustit, aby obraz technologie určovala pouze varování před katastrofickými riziky. 730
• Důvěra na prvním místě: Skepticismus vychází z desítek let nedůvěry a marketing nemůže nahradit skutečné výsledky, věrohodná pravidla a odpovědnost. 12
• Kontrola na prvním místě: Ani prosperující budoucnost nebude přijatelná, pokud zásadní rozhodnutí za všechny učiní několik firem, modelů nebo jednotlivců. 3537

Altmanova formulace „drazí poddaní“ tento rozpor zviditelnila. Průmysl může slibovat hojnost a současně nechtěně působit dojmem, že po veřejnosti žádá výměnu autonomie za pohodlí. Amodeiho odpověď doplňuje druhou polovinu kritiky: ani dobře míněné sliby důvěru neobnoví, pokud se nestanou ověřitelnými výsledky.

Poučení je jednoduché. Lídři AI nemohou předpokládat, že veřejnost přesvědčí samotný strach nebo optimismus. Důvěra bude záviset na tom, co technologie skutečně přinese, kdo ji kontroluje, kdo získá její výhody a zda si lidé zachovají smysluplný vliv na budoucnost, která se právě vytváří.