Výzva ke zpomalení AI odložila IPO OpenAI, srazila technologické akcie a narazila u Trumpa

Výzva šéfa společnosti Anthropic Daria Amodeie ke zpomalení zdokonalování nejschopnějších modelů umělé inteligence se rychle změnila z debaty o bezpečnosti v obchodní a politický střet. Přinesla vzácnou veřejnou shodu mezi šéfy velkých AI laboratoří, posunula očekávané IPO OpenAI nejméně za rok 2026, otřásla akciemi firem navázaných na AI a narazila na přímočaré odmítnutí prezidenta Donalda Trumpa. 1710

Co Amodei navrhuje: „udat tempo hranice“

Amodei nevolal po ukončení výzkumu AI. Jeho návrh, označovaný jako „pace the frontier“, znamená záměrně mírnit tempo, jímž špičkové laboratoře zvyšují schopnosti modelů. Bezpečnostní výzkum, dohled a koordinace by tak dostaly čas držet krok s technickým pokrokem.

Podle Amodeie mohou být stále schopnější systémy pro lidi hůře pochopitelné a ovladatelné — zvlášť pokud AI začne podstatně pomáhat při vývoji další generace AI. 177

Návrh stojí na třech bodech:

1. Nezávislý dohled přímo v laboratořích vyvíjejících špičkovou AI. Anthropic chce třetím stranám poskytnout trvalý přístup na úrovni zaměstnanců. Mohly by ověřovat dodržování bezpečnostních postupů, oznamovat incidenty a vyhodnocovat sladění modelů s lidskými záměry během tréninku. 17
2. Koordinace mezi předními AI společnostmi. Amodei vyzval ke společným bezpečnostním standardům a limitům, které by bránily nekontrolovanému konkurenčnímu závodu. 17
3. Mezinárodní spolupráce. Řízení rizik pokročilé AI by podle návrhu vyžadovalo součinnost vlád napříč státy. 17

První bod je zásadní tím, že část hodnocení bezpečnosti přesouvá mimo interní kontrolu firmy. Nejde tedy o jednorázový externí audit, ale o průběžný přístup a kontrolu.

Altman se přidal — a odložil vstup OpenAI na burzu

Generální ředitel OpenAI Sam Altman Amodeiho veřejně podpořil. Uvedl, že i OpenAI musí „udat tempo hranice“. Vzhledem k rivalitě mezi společnostmi šlo o výrazný projev shody mezi lídry závodu o stále výkonnější AI. 1

Altman podporu spojil i s důležitým byznysovým krokem: OpenAI nepůjde na burzu v roce 2026. Vstup na burzu by za současných okolností označil za „neuvážený“, protože společnost má podle něj před sebou zásadní práci v oblasti bezpečnosti a sladění AI. Agentura Reuters uvedla, že Altman považuje i desetiprocentní pravděpodobnost, že AI do konce desetiletí způsobí vyhynutí lidstva, za nepřijatelnou.

Prakticky tím OpenAI signalizuje, že bezpečnost může mít přednost před načasováním jedné z nejsledovanějších technologických primárních veřejných nabídek. Neznamená to ovšem, že firma zveřejnila konkrétní harmonogram, jak přesně bude zvyšování schopností modelů tlumit.

Varování výzkumníků, která debatě předcházela

Výzva přišla po rezignaci Jacoba Coxona, výzkumníka, který uvedl, že pracoval na výzkumu předtrénování modelů v OpenAI i Anthropicu. Coxon obvinil firmy, že v závodu za systémy schopnými vlastního zdokonalování „hazardují s našimi životy“. 18

Do veřejné debaty vstoupil také Evan Hubinger, vedoucí týmu Alignment Science v Anthropicu. CNBC uvedla, že Hubinger osobně odhaduje pravděpodobnost, že AI během tohoto desetiletí zabije všechny lidi, na více než 10 %. Jde o jeho individuální hodnocení rizika, nikoli o firemní prognózu Anthropicu nebo prokázanou předpověď.

Tato varování proměnila dlouhodobý a často abstraktní spor o katastrofická rizika AI v bezprostřední otázku pro vedení společností: mají laboratoře dál maximalizovat růst schopností, zatímco se bezpečnostní pojistky teprve vyvíjejí?

Proč se prodávaly akcie spojené s AI

Investoři vyhodnotili výzvu ke zpomalení jako možnou hrozbu pro předpoklady, na nichž stála takzvaná AI sázka: trvalý růst schopností modelů, vysoké výdaje na výpočetní kapacitu a silná poptávka po čipech i související infrastruktuře. Akcie firem napojených na AI v Asii po oznámeních klesaly a oslabily také futures na americké akciové indexy.

SoftBank, významný investor do OpenAI, v Tokiu propadl až o 13,2 %, uvedl Reuters. Tlak se rozšířil i na další asijské tituly související s AI. Jiné zprávy uváděly pokles futures na technologický index Nasdaq před otevřením trhu přibližně o 1,5 %, přičemž tlak dopadl zejména na výrobce čipů.

Takový pohyb trhu sám o sobě nedokazuje, že investice do AI nebo poptávka po čipech zkolabují. Ukázal však, že investoři přecenili jedno riziko: pokud budou pokroky u špičkových modelů záměrně omezeny či odloženy, očekávané tržby a výnosy vývojářů modelů, dodavatelů infrastruktury i investičních společností zaměřených na AI mohou přijít později, než se čekalo.

Trump: „Kdo vyhraje AI, vyhraje“

Trump argument pro zpomalení odmítl a AI rámoval především jako soutěž o strategické prvenství USA vůči Číně. „Kdo vyhraje AI, vyhraje,“ uvedl s tím, že Spojené státy jsou před Čínou a musí si náskok udržet. 10

Tím pojmenoval hlavní politický konflikt. Zastánci bezpečnosti tvrdí, že více času na testování, výzkum sladění a nezávislý dohled může snížit pravděpodobnost vážných škod. Odpůrci zpomalení se naopak obávají, že jednostranná zdrženlivost dá výhodu státům nebo firmám, které budou schopnosti AI rozvíjet bez srovnatelných omezení. 1710

Sám Amodei uznal, že neochota ke spolupráci na mezinárodní úrovni — zejména ze strany zemí považovaných za soupeře, jako je Čína — představuje pro režim zpomalování nejtěžší problém. Pravidla platná jen pro část špičkových laboratoří by mohla přenést obchodní i geopolitické náklady na bezpečnostně orientované firmy, aniž by samotný závod ve schopnostech AI zastavila.

Co zůstává nevyřešeno

Celá epizoda přinesla neobvyklou směs shody a střetu:

• Lídři laboratoří našli společnou řeč v potřebě silnějších bezpečnostních opatření. Altman podpořil Amodeiho výzvu a Anthropic se zavázal k průběžnému hodnocení nezávislými třetími stranami.
• Praktické provedení zůstává otevřené. Veřejná podpora „udání tempa“ sama o sobě neurčuje společné prahy, mechanismy vymáhání ani závaznou mezinárodní dohodu. 17
• IPO OpenAI bylo ovlivněno přímo. Altman vyloučil vstup firmy na burzu v roce 2026 s odkazem na bezpečnostní priority.
• U Anthropicu je cesta k veřejné nabídce podle dostupných informací méně jasná. Zdroje dokládají závazek k nezávislému hodnocení a širší návrh politiky, ale nepotvrzují, že Anthropic kvůli sporu formálně změnil načasování IPO.

Spor se nakonec netýká jen toho, zda má AI postupovat vpřed. Jde o to, kdo určí tempo, jaké nezávislé důkazy budou vyžadovány před dalším zvyšováním schopností modelů a zda bezpečnostní závazky obstojí pod tlakem obchodní konkurence a geopolitiky. 1710