Rivalové v AI se shodli na zpomalení vývoje. Trump varování smetl ze stolu

Neobvyklá shoda mezi šéfy konkurenčních laboratoří přinesla hlavně společný apel na opatrnější tempo vývoje nejvýkonnějších systémů umělé inteligence. Dario Amodei z Anthropicu vyzval ke zpomalení růstu schopností takzvaných frontier modelů; Sam Altman z OpenAI a Elon Musk, zakladatel xAI, tento základní směr veřejně podpořili. Neznamená to ale, že by se státy či firmy dohodly na závazné mezinárodní pauze. 16

Co přesně Amodei varoval

Amodei uvedl, že bez zpomalení by AI mohla během šesti až dvanácti měsíců dokázat řídit roj autonomních agentů schopný ovládnout velkou část, případně celý internet. Šlo o výhledové hodnocení rizika, nikoli o tvrzení, že se takový útok už stal. 1

Jeho návrh nesměřoval k úplnému ukončení výzkumu AI. Cílem bylo získat čas pro zavedení silnějších pojistek: nezávislého dohledu, sdílených bezpečnostních postupů napříč odvětvím a mezinárodní koordinace. Součástí plánu bylo i umožnit externím hodnotitelům trvalý přístup k systémům na úrovni zaměstnanců, aby mohli prověřovat dodržování bezpečnostních pravidel a posuzovat chování modelů při tréninku. 68

Podpora od Altmana a Muska — s důležitými limity

Altman podpořil myšlenku „udržet tempo na uzdě“ a přislíbil obdobný přístup k nezávislému hodnocení bezpečnosti. 613 Musk se k Amodeiho výzvě rovněž přidal, přestože xAI soupeří s Anthropicem i OpenAI. 6

Zprávy o možném odkladu plánovaného IPO OpenAI však popisovaly nanejvýš možnost či návrh dát přednost bezpečnosti. Z dostupných podkladů neplyne, že by OpenAI formálně oznámila odklad vstupu na burzu. 7

Proč se debata vyostřila

Výzva přišla krátce poté, co Anthropic zveřejnil informace o zneužívání svého modelu Claude. Firma uvedla, že narušila pokusy využít Claude při výzkumu, který by mohl napomáhat vývoji biologických zbraní, a při podezřelé kybernetické činnosti napojené na Rusko. Zároveň obvinila čínské konkurenty z pokusů získat či napodobit schopnosti Clauda. Jde o zjištění a obvinění Anthropicu, nikoli o nezávisle pravomocně potvrzené závěry. 17

Trump: USA nesmějí přenechat náskok Číně

Prezident Donald Trump představu výrazného zpomalení amerického vývoje odmítl. Debatu postavil především do roviny soutěže USA s Čínou a prohlásil, že „kdo vyhraje AI, vyhraje“. Varování zlehčil jako obavy z věcí, které se podle něj nestanou. 10

Tím se otevřel známý spor mezi dvěma přístupy:

• Bezpečnostní tábor tvrdí, že dobrovolné závazky technologických společností nestačí. Senátor Bernie Sanders označil zpomalení za začátek, nikoli řešení, a vyzval Trumpa a čínského prezidenta Si Ťin-pchinga k dohodě o pauze ve vývoji pokročilé AI a zákazu umělé „superinteligence“.
• Zastánci rychlého rozvoje a bezpečnostního soupeření varují, že jednostranné americké omezení by mohlo posílit Čínu. Trumpova reakce odpovídá právě tomuto pohledu. 10

Debata se proto soustředí na to, zda mohou fungovat dobrovolné firemní sliby, zda má Kongres přijmout vymahatelná pravidla pro nejpokročilejší modely a jaké hospodářské i strategické následky by mělo prudké omezení vývoje.

V poskytnutých zdrojích nejsou dostatečné podklady pro ověření konkrétních postojů Mikea Johnsona, Hakeema Jeffriese, Davida Sackse, Alexe Karpa, Joshe Gottheimera či konkrétních investorů. Stejně tak z nich nelze potvrdit dohodnutý program jednání Trump–Si nad rámec Sandersova návrhu ani podrobnosti rezignace bývalého výzkumníka Jacoba Coxona.