Trump odmítá zpomalit AI, Amodei prosazuje bezpečnostní pravidla pro technologickou špičku

Donald Trump postavil spor o nejvyspělejší umělou inteligenci především do roviny technologického soupeření s Čínou. USA podle něj musí zůstat lídrem oboru, protože „kdo vyhraje AI, vyhraje“. Obavy, že by AI mohla ovládnout svět nebo zničit lidstvo, později označil za „HOAX“; odpor vůči AI a datovým centrům popsal jako „SICK conspiracy“, která prospívá Číně. 1719

Proč se Trump pustil do Daria Amodeie

Trump reagoval na výzvu šéfa společnosti Anthropic Daria Amodeie, aby se vědomě zpomalilo tempo, jímž se zlepšují schopnosti nejvýkonnějších modelů. Jejich výchozí priority se liší: Trump zdůrazňuje udržení technologického náskoku USA, zatímco Amodei varuje, že schopnosti modelů mohou růst rychleji než bezpečnostní postupy, testování a dohled. 17

Trump zároveň tvrdil, že stát už má vůči těmto firmám výrazné trestní i regulační pravomoci a že potřebnou pojistkou je silný prezident. Jeho kritika Amodeie tak spojovala skepse k varováním před existenčními riziky s obavou, že nová formální omezení oslabí americké firmy vůči čínským konkurentům. 1921

Co navrhuje plán „We Must Pace the Frontier“

Amodei nevyzývá k ukončení výzkumu AI. Jeho třístupňový plán má přibrzdit nekontrolované zvyšování schopností modelů natolik, aby bezpečnostní práce, testování a pravidla řízení držely krok.

1. Trvale působící nezávislí hodnotitelé přímo v laboratořích vyvíjejících špičkovou AI. Anthropic uvedl, že externím hodnotitelům poskytne trvalý přístup k systémům na úrovni zaměstnanců. Mají ověřovat dodržování bezpečnostních postupů, hlásit incidenty a posuzovat, zda model při tréninku zůstává v souladu se zamýšlenými cíli. 16
2. Koordinace mezi firmami vyvíjejícími nejpokročilejší modely. Vedoucí laboratoře by podle návrhu měly vytvořit společné bezpečnostní standardy a limity nekontrolovaného vývoje, místo aby soutěžily výhradně v co nejrychlejším růstu schopností systémů.
3. Mezinárodní spolupráce. Zvládnutí nejvážnějších rizik AI bude podle Amodeie nakonec vyžadovat spolupráci přes hranice jednotlivých států a bloků.

První bod Anthropic prezentoval jako vlastní bezprostřední závazek, nikoli jen jako doporučení pro vlády či konkurenty. 16

Podpora, ale nikoli hotový systém pravidel

Šéf OpenAI Sam Altman uvedl, že souhlasí s potřebou „udržet tempo na hranici možností“ pod kontrolou a že OpenAI také poskytne přístup externím hodnotitelům. Elon Musk, který vede xAI, rovněž vyjádřil Amodeiho směru podporu.

Výkonný ředitel Microsoftu Satya Nadella uvítal promyšlené zpomalování i hodnotitele působící přímo v laboratořích. Připojil ale podstatnou podmínku: dohled nesmí řídit jen malá skupina společností. Snaha o superinteligenci podle něj musí lidstvu prospívat a zůstat pod lidskou kontrolou.

Tyto reakce nepředstavují hotový společný regulační režim. Naznačují však, že několik výrazných představitelů odvětví podporuje trvalejší a formálnější prověřování nejpokročilejších systémů.

Čína a problém jednostranného zpomalení

Bývalý výzkumník Anthropicu a OpenAI Jacob Coxon pro BBC řekl, že lidé, kteří tyto systémy vyvíjejí, jsou o budoucnost lidstva „opravdu vyděšení“. Myšlenku zpomalení uvítal, podle něj by však musela být koordinována i s Čínou. 1

To vystihuje jádro sporu. Firma nebo stát, který zpomalí sám, se může obávat, že ztratí pozici vůči konkurentům, kteří žádné obdobné závazky nepřijmou. Čínské ministerstvo zahraničí Amodeiho výzvu k omezením dopadajícím na čínské kapacity AI odmítlo a interpretovalo ji jako americkou snahu Čínu zadržovat, nikoli jako neutrální bezpečnostní správu. 4

Vzniká tak problém důvěry: zastánci vidí ve vzájemných pravidlech cestu ke snížení rizik, odpůrci v nich mohou naopak spatřovat nástroj k zachování technologického náskoku druhé strany.

Námitka: bezpečnostní pravidla mohou chránit zavedené firmy

Investor Michael Burry označil kampaň za zpomalení za „self-serving“, tedy účelovou a výhodnou pro její zastánce. Tvrdí, že pomalejší vývoj a nákladnější požadavky na dodržování pravidel by mohly pomoci zavedeným společnostem, protože by novým vyzyvatelům ztížily vstup do soutěže. Zpochybnil také představu, že současné velké jazykové modely směřují k obecné umělé inteligenci (AGI).

Tato kritika sama o sobě nevyvrací bezpečnostní obavy. Upozorňuje ale na praktické riziko regulace: pravidla určená ke zvýšení bezpečnosti špičkového vývoje mohou současně upevnit tržní sílu firem, které si jejich plnění mohou nejsnáze dovolit. Důvěryhodný rámec by proto musel řešit jak bezpečnost, tak koncentraci moci.

Proč je důležité plánované setkání Trumpa a Si Ťin-pchinga

Trump a čínský prezident Si Ťin-pching mají na schůzce plánované na 24. září jednat mimo jiné o správě AI. 4 Právě zde se ukazuje nejtěžší část celé strategie: nestačí napsat pravidla pro jednu laboratoř. Je třeba vytvořit ujednání, která soupeřící mocnosti považují za vzájemná a vymahatelná.

Trumpův důraz na závod s Čínou i odmítavá reakce Pekingu na omezení čínského vývoje naznačují, jak složité bude takové dohody dosáhnout. Nejde tedy jen o volbu mezi akcelerací a pauzou. Ve hře je, zda lze závod o AI řídit, aniž by se bezpečnostní politika stala další frontou geopolitického soupeření. 174