Dlaczego twórca Claude'a i papież Leon XIV mówią jednym głosem: sztuczna inteligencja wymaga pilnego, globalnego „hamulca”

Ostrzeżenie Anthropica: Ryzyko rekurencyjnego samodoskonalenia

Raport Anthropica, autorstwa badaczy Mariny Favaro i Jacka Clarka, przedstawia niepokojący obraz tempa rozwoju AI. Firma poinformowała, że od maja 2026 roku Claude jest autorem ponad 80% kodu scalanego w bazie kodu Anthropica, a przeciętny inżynier scala dziś około ośmiokrotnie więcej kodu dziennie niż w 2024 roku . Autorzy ostrzegają, że ta trajektoria prowadzi wprost do rekurencyjnego samodoskonalenia – procesu, w którym systemy AI autonomicznie projektują, budują i trenują swoich następców, bez potrzeby angażowania człowieka na każdym etapie .

Firma przyznała, że ten punkt nie został jeszcze osiągnięty i że nie jest to nieuniknione, ale dodała też niepokojące zastrzeżenie: „Może nadejść szybciej, niż większość instytucji jest na to przygotowana” .

Kluczowe obawy

• Utrata ludzkiego nadzoru. Głównym zmartwieniem Anthropica jest to, że postęp AI może wyprzedzić istniejące ramy bezpieczeństwa i zarządzania, czyniąc ludzki nadzór głównym, ale niewystarczającym, ograniczeniem postępu technologicznego . Firma ostrzegła, że jeśli rozwój będzie kontynuowany bez kontroli, ludzkość ryzykuje całkowitą utratę kontroli .
• „Pedał hamulca” dla branży. Anthropic określił swój apel jako budowę „pedału hamulca” dla całej branży – możliwości spowolnienia lub tymczasowego wstrzymania rozwoju, aby dać strukturom społecznym i badaniom nad dostosowaniem AI do ludzkich wartości czas na nadgonienie . Clark powiedział w programie BBC Newsnight: „Chcesz mieć możliwość zdjąć nogę z gazu i wcisnąć hamulec” .
• Warunkowe, a nie jednostronne wstrzymanie. Anthropic zadeklarował, że poprze wstrzymanie prac tylko wtedy, gdy dołączą do niego inni główni deweloperzy, a jego przestrzeganie będzie można niezależnie zweryfikować . Firma zauważyła, że jeśli spowolnienie umożliwiłoby mniej ostrożnym podmiotom dogonienie liderów, mogłoby to ostatecznie zagrozić bezpieczeństwu wszystkich .
• Współpraca z decydentami. Firma ogłosiła również plany zwołania decydentów politycznych w celu omówienia zagrożeń związanych z zaawansowaną AI .

Encyklika „Magnifica Humanitas”: Moralne ramy dla AI

Opublikowana 25 maja 2026 roku encyklika Magnifica Humanitas liczy około 43 000 słów i koncentruje się na „ochronie osoby ludzkiej w epoce sztucznej inteligencji” . Dokument wprost nawiązuje do encykliki Rerum Novarum Leona XIII z 1891 roku, która dotyczyła pracy w epoce industrialnej, i stosuje jej logikę do platform cyfrowych, algorytmów, automatyzacji i koncentracji danych .

Zgodność z ostrzeżeniem Anthropica

• Apel o silne regulacje. Papież wezwał do rygorystycznego nadzoru nad AI i ostrzegł, że wielkie koncerny technologiczne i ich liderzy mogą gromadzić władzę, którą wykorzystają dla zysku . Leon XIV argumentował, że dostawcy AI muszą brać pod uwagę etykę swoich działań, stwierdzając: „Aby AI szanowała godność ludzką i prawdziwie służyła dobru wspólnemu, potrzebuje silnych regulacji” .
• Ostrzeżenie przed niekontrolowaną autonomią. Encyklika przestrzega firmy technologiczne przed budowaniem „nowej wieży Babel” – jest to moralny odpowiednik obaw Anthropica o systemy wymykające się spod kontroli człowieka . Dokument porównuje przyszłość AI, która wyklucza Boga, do biblijnej opowieści, ostrzegając przed ludzką pychą .
• Godność ludzka jako standard. Magnifica Humanitas argumentuje, że AI musi służyć dobru wspólnemu i rozwojowi człowieka, a nie być napędzana wyłącznie przez wyścig konkurencyjny . Kluczowe zdanie encykliki brzmi: „Sztuczna inteligencja musi być teraz rozbrojona, wyzwolona z ram, które czynią z niej narzędzie kontroli, wykluczenia i zniszczenia” .
• Wezwanie do wolniejszego tempa. Papież napisał, że nawoływanie do roztropności, rygorystycznej oceny, a nawet, w niektórych przypadkach, wolniejszego tempa we wdrażaniu AI, nie oznacza sprzeciwu wobec postępu; jest to raczej „przejaw odpowiedzialnej troski o rodzinę ludzką” .

Bezpośrednia współpraca między Anthropic a Watykanem

Zbieżność poglądów obu instytucji wykracza poza równoległe ostrzeżenia. W rzadkim przypadku instytucjonalnej współpracy, współzałożyciel Anthropica, Chris Olah, przemawiał podczas prezentacji encykliki Magnifica Humanitas w Watykanie 25 maja 2026 roku, podkreślając unikalną relację między laboratorium AI a Stolicą Apostolską . Jego obecność sygnalizowała powstanie rzadkiego sojuszu, w którym obie strony wzywają do silniejszej kontroli moralnej nad sztuczną inteligencją .

Powiązania między nimi istniały już wcześniej. Anthropic konsultował się z myślicielami katolickimi podczas tworzenia „Konstytucji Claude’a” – liczącego 23 000 słów dokumentu etycznego, który jest podstawą działania jego modeli AI . Ksiądz Brendan McGuire, były dyrektor z Doliny Krzemowej, który pomagał w tworzeniu tej konstytucji, zauważył, że Magnifica Humanitas otworzyła drzwi do głębszych rozmów między Kościołem a światem technologii .

Niecałe dwa tygodnie po ogłoszeniu encykliki katoliccy eksperci ds. AI publicznie pochwalili apel Anthropica o wstrzymanie prac, zauważając, że „odzwierciedla on niedawne obawy papieża Leona XIV” i chwaląc firmę za kontrolowanie wartości w obliczu szybkiego rozwoju . Katoliccy moraliści wnieśli wcześniej opinię amicus curiae na rzecz Anthropica w sporze z Pentagonem, dotyczącym odmowy firmy na wykorzystanie swoich systemów AI do masowej inwigilacji lub autonomicznej broni .

Wspólna teza i uzupełniające się siły

Zarówno Anthropic, jak i Watykan zbiegają się w kluczowej tezie: rozwój najbardziej zaawansowanej AI przyspiesza szybciej, niż systemy zarządzania i etyka są w stanie się dostosować, a celowe wstrzymanie lub spowolnienie jest niezbędne do zachowania ludzkiego nadzoru, godności i dobra wspólnego. Kościół wnosi do tej debaty solidne ramy moralne i teologiczne – zakorzenione w godności ludzkiej, dobru wspólnym i ochronie najsłabszych – które uzupełniają techniczne i bezpieczeństwowe rozumowanie Anthropica .

Jak ujął to jeden z komentatorów, obie instytucje argumentują, że „społeczeństwo może mieć trudności z nadążeniem za szybkim postępem technologicznym” i że spowolnienie jest „prawdopodobnie dobrą rzeczą” – pod warunkiem, że jest skoordynowane, weryfikowalne i nie jest jedynie narzędziem dla mniej ostrożnych konkurentów do zdobycia przewagi .