Proč Anthropic a papež vyzývají k celosvětovému zpomalení vývoje špičkové AI

Varování Anthropicu: Riziko rekurzivního sebezdokonalování

Zpráva Anthropicu, kterou napsali výzkumníci Marina Favaro a Jack Clark, předkládá varovný obrázek o tom, jak rychle se schopnosti AI zrychlují. Společnost uvedla, že k květnu 2026 Claude napsal více než 80 % kódu začleněného do kódové základny Anthropicu a typický inženýr nyní denně začlení zhruba osmkrát více kódu než v roce 2024 . Autoři varují, že tato trajektorie směřuje k rekurzivnímu sebezdokonalování – procesu, kdy AI systémy autonomně navrhují, vytvářejí a trénují své vlastní nástupce, aniž by lidé řídili každý krok .

Společnost uvedla, že toho ještě nedosáhla a že tento výsledek není nevyhnutelný, ale dodala střízlivou výhradu: „Mohlo by to nastat dříve, než na to bude většina institucí připravena“ .

Hlavní obavy

• Ztráta lidského dohledu. Ústředním problémem Anthropicu je, že pokrok AI může předstihnout stávající bezpečnostní rámce a způsoby správy, což z lidského dohledu učiní hlavní omezení technologického pokroku . Společnost varovala, že lidé riskují, že zcela ztratí kontrolu, pokud bude vývoj pokračovat nekontrolovaně .
• „Brzda“ pro průmysl. Anthropic svou výzvu k pauze rámuje jako budování „brzdy“ pro průmysl – možnosti zpomalit nebo dočasně zastavit vývoj špičkové AI, aby společenské struktury a výzkum alignmentu (sladění s lidskými hodnotami) stačily držet krok . Clark řekl BBC Newsnight: „Chcete mít možnost sundat nohu z plynu a šlápnout na brzdu“ .
• Podmíněná, nikoli jednostranná pauza. Anthropic uvedl, že by pauzu podpořil pouze v případě, že se připojí ostatní přední vývojáři a dodržování bude možné nezávisle ověřit . Společnost poznamenala, že pokud zpomalení pouze umožní méně opatrným subjektům dohnat ztrátu, mohlo by to v konečném důsledku ohrozit bezpečnost všech .
• Zapojení tvůrců politik. Společnost zároveň oznámila plány na svolání tvůrců politik k řešení rizik pokročilé AI .

Vatikánská Magnifica Humanitas: Morální rámec pro AI

Encyklika Magnifica Humanitas, zveřejněná 25. května 2026, má zhruba 43 000 slov a je zaměřena na „ochranu lidské osoby ve věku umělé inteligence“ . Dokument výslovně aktualizuje encykliku Lva XIII. Rerum Novarum z roku 1891, která se zabývala prací v průmyslové éře, a aplikuje její logiku na digitální platformy, algoritmy, automatizaci a koncentraci dat .

Klíčové průsečíky s varováním Anthropicu

• Výzva k silné regulaci. Papež vyzval k přísnému dohledu nad AI a varoval, že velké technologické společnosti a jejich lídři by mohly hromadit moc, kterou by zneužily pro zisk . Papež Lev argumentoval, že poskytovatelé AI musí zvažovat etiku svých činů, a prohlásil: „Aby AI respektovala lidskou důstojnost a skutečně sloužila společnému dobru, vyžaduje silnou regulaci“ .
• Varování před nekontrolovanou autonomií. Encyklika varuje AI společnosti před budováním „nové Babylonské věže“ – morální paralela k obavám Anthropicu o systémy unikající lidské kontrole . Dokument přirovnává budoucnost AI, která vylučuje Boha, k biblickému příběhu a varuje před lidskou domýšlivostí .
• Lidská důstojnost jako měřítko. Magnifica Humanitas tvrdí, že AI musí sloužit společnému dobru a lidskému rozkvětu, nikoli být poháněna pouze konkurenčním zrychlením . Ústřední věta encykliky zní: „Umělá inteligence musí být nyní odzbrojena, osvobozena od rámců, které z ní činí nástroj kontroly, vyloučení a ničení“ .
• Výzva k pomalejšímu tempu. Papež Lev napsal, že volat po obezřetnosti, důkladném hodnocení a někdy i pomalejším tempu přijímání AI neznamená bránit pokroku; je to naopak „výkon odpovědné péče o lidskou rodinu“ .

Přímá spolupráce mezi Anthropicem a Vatikánem

Shoda mezi oběma institucemi přesahuje paralelní varování. Při vzácném projevu institucionální spolupráce vystoupil spoluzakladatel Anthropicu Chris Olah na prezentaci Magnifica Humanitas ve Vatikánu 25. května 2026, což zdůraznilo jedinečný vztah mezi AI laboratoří a Svatým stolcem . Tato účast signalizovala vzácné spojenectví, protože obě strany vyzvaly k silnějšímu morálnímu zkoumání umělé inteligence .

Spojení mezi oběma stranami existovala již dříve. Anthropic již dříve konzultoval katolické myslitele při vývoji „Claude Constitution“, 23 000 slovního etického rámce, který řídí jeho AI modely . Otec Brendan McGuire, kněz a bývalý výkonný pracovník ze Silicon Valley, pomáhal tuto ústavu utvářet a poznamenal, že Magnifica Humanitas otevřela dveře hlubším rozhovorům mezi církví a technologickým průmyslem .

Méně než dva týdny po vydání encykliky katoličtí experti na AI veřejně ocenili výzvu Anthropicu k pauze a poznamenali, že „odráží nedávné obavy papeže Lva XIV.“, a pochválili společnost za to, že konfrontuje hodnoty s rychlým vývojem . Katoličtí morální teologové také dříve podali přátelský spis na podporu Anthropicu ve sporu s Pentagonem ohledně odmítnutí společnosti umožnit použití jejích AI systémů pro masové sledování nebo autonomní zbraně .

Společná teze a doplňující se silné stránky

Anthropic i Vatikán se sbíhají v ústřední tezi: vývoj špičkové AI se zrychluje rychleji, než jsou správa a etika schopny se přizpůsobit, a je třeba záměrné pauzy nebo zpomalení, aby se zachoval lidský dohled, důstojnost a společné dobro. Přínos církve přidává robustní morální a teologický rámec – zakořeněný v lidské důstojnosti, společném dobru a ochraně zranitelných – který doplňuje technické a bezpečnostní uvažování Anthropicu .

Jak poznamenal jeden pozorovatel, obě instituce tvrdí, že „společnost může mít potíže držet krok s rychlým technologickým pokrokem“ a že zpomalení je „pravděpodobně dobrá věc“ – za předpokladu, že je koordinované, ověřitelné a není pouze nástrojem pro méně opatrné konkurenty, aby získali náskok .