Anthropic og Vatikanet kræver global pause: Derfor er det uhyre vigtigt at bremse super-AI nu

Verdens førende AI-virksomheder konkurrerer om at bygge stadig mere kraftfulde systemer, men en usædvanlig alliance mellem et af de største AI-laboratorier og den katolske kirke kræver nu en bevidst opbremsning. Den 4. juni 2026 offentliggjorde Anthropic – virksomheden bag assistenten Claude – en rapport med titlen 'When AI builds itself', som foreslår en globalt koordineret pause eller en markant opbremsning af udviklingen af super-AI (frontier AI) . Advarslen centrerer sig om et scenarie kaldet rekursiv selvforbedring, hvor et AI-system bliver så dygtigt, at det selvstændigt kan designe, bygge og træne sine egne efterfølgere, hvilket potentielt kan ske uden for menneskelig kontrol .

Kun ti dage tidligere, den 25. maj 2026, udgav Pave Leo XIV sin første encyklika, Magnifica Humanitas ('Den storslåede menneskelighed'), det første pavelige læredokument nogensinde, der udelukkende er helliget kunstig intelligens . Selvom de to institutioner kommer fra vidt forskellige verdener – den ene forankret i teknologi og sikkerhedsforskning, den anden i teologi og moralfilosofi – er deres kernebudskab slående ens: super-AI udvikler sig hurtigere, end samfundets styring og etik kan følge med, og en pause er nødvendig for at beskytte menneskeheden .

Anthropics advarsel: Risikoen for rekursiv selvforbedring

Anthropics rapport, forfattet af forskerne Marina Favaro og Jack Clark, tegner et skarpt billede af, hvor hurtigt AI-kapaciteterne accelererer. Virksomheden rapporterede, at Claude pr. maj 2026 stod for mere end 80 % af den kode, der blev flettet ind i Anthropics egen kodebase, og at den gennemsnitlige ingeniør nu fletter cirka otte gange så meget kode om dagen som i 2024 . Forfatterne advarer om, at denne udviklingskurve fører mod rekursiv selvforbedring, en proces, hvor AI-systemer selvstændigt designer, bygger og træner deres egne efterfølgere, uden at mennesker styrer hvert skridt .

Virksomheden understregede, at det endnu ikke er nået dertil, og at resultatet ikke er uundgåeligt, men tilføjede en tankevækkende bemærkning: 'Det kunne komme hurtigere, end de fleste institutioner er forberedt på' .

Kernepunkterne i kritikken

• Tab af menneskelig kontrol. Anthropics centrale bekymring er, at AI-udviklingen kan overhale de eksisterende sikkerheds- og styringsrammer, og at menneskelig overvågning dermed bliver den primære flaskehals for teknologisk fremgang . Virksomheden advarer om, at mennesker risikerer at miste kontrollen fuldstændigt, hvis udviklingen fortsætter uhindret .
• En 'bremseskive' for industrien. Anthropic beskriver sit krav om en pause som at bygge en 'bremseskive' for industrien – en mulighed for at sænke farten eller midlertidigt standse udviklingen af super-AI, så samfundsstrukturer og forskning i AI-sikkerhed kan følge med . Jack Clark sagde til BBC Newsnight: 'Du ønsker dig muligheden for at kunne tage foden fra speederen og sætte den på bremsen' .
• Betinget, ikke ensidig. Anthropic sagde, at de kun vil støtte en pause, hvis andre førende udviklere også deltager, og at overholdelsen kan verificeres uafhængigt . Virksomheden bemærkede, at hvis en opbremsning blot giver mindre forsigtige aktører tid til at indhente det forsømte, kan det i sidste ende kompromittere sikkerheden for alle .
• Politisk engagement. Samtidig annoncerede virksomheden planer om at indkalde beslutningstagere for at adressere farerne ved avanceret AI .

Vatikanets Magnifica Humanitas: En moralsk ramme for AI

Magnifica Humanitas, der blev offentliggjort den 25. maj 2026, er på cirka 43.000 ord og har som omdrejningspunkt 'beskyttelse af den menneskelige person i kunstig intelligens' tidsalder' . Dokumentet opdaterer eksplicit Leo XIII's encyklika Rerum Novarum fra 1891 – som adresserede arbejdsforhold under industrialiseringen – og anvender dens logik på digitale platforme, algoritmer, automatisering og datakoncentration .

Centrale lighedspunkter med Anthropics advarsel

• Krav om robust regulering. Paven opfordrede til streng kontrol af AI og advarede om, at tech-giganter og deres ledere kan ophobe magt, de vil misbruge til profit . Pave Leo argumenterede for, at udbydere af AI må overveje etikken i deres handlinger, og erklærede: 'For at AI kan respektere menneskets værdighed og virkelig tjene det fælles bedste, kræver det en stærk regulering' .
• Advarsel mod ukontrolleret autonomi. Encyklikaen advarer AI-virksomheder mod at bygge 'et nyt Babelstårn' – en moralsk parallel til Anthropics bekymring om systemer, der undslipper menneskelig kontrol . Dokumentet sammenligner en AI-fremtid, der udelukker Gud, med den bibelske historie og advarer mod menneskelig arrogance .
• Menneskets værdighed som standard. Magnifica Humanitas argumenterer for, at AI skal tjene det fælles bedste og menneskelig trivsel, ikke drives af konkurrencepræget acceleration alene . Encyklikaens centrale sætning lyder: 'Kunstig intelligens må nu afvæbnes, befries fra de rammer, der gør den til et redskab til kontrol, udelukkelse og ødelæggelse' .
• Opfordring til et lavere tempo. Pave Leo skrev, at det at kræve forsigtighed, grundig evaluering og endda, til tider, et langsommere tempo i adoptionen af AI ikke betyder at modsætte sig fremskridt; det er i stedet 'en øvelse i ansvarlig omsorg for den menneskelige familie' .

Direkte samarbejde mellem Anthropic og Vatikanet

Overlapningen mellem de to institutioner går ud over parallelle advarsler. I en sjælden demonstration af institutionelt samarbejde talte Anthropics medstifter Chris Olah ved præsentationen af Magnifica Humanitas i Vatikanet den 25. maj 2026, hvilket understreger et unikt forhold mellem et AI-laboratorium og Den Hellige Stol . Optræden signalerede en sjælden alliance, da begge sider opfordrede til stærkere moralsk granskning af kunstig intelligens .

Forbindelserne mellem de to sider eksisterede allerede. Anthropic havde tidligere konsulteret katolske tænkere, mens de udviklede 'Claude-forfatningen', den 23.000 ord lange etiske ramme, der styrer deres AI-modeller . Fader Brendan McGuire, en præst og tidligere direktør i Silicon Valley, var med til at forme den forfatning og bemærkede, at Magnifica Humanitas har åbnet dørene for dybere samtaler mellem kirken og tech-industrien .

Mindre end to uger efter encyklikaens offentliggørelse roste katolske AI-eksperter offentligt Anthropics pauseopfordring og bemærkede, at den 'genlød Pave Leo XIV's nylige bekymringer' og roste virksomheden for at sætte værdier op mod den hastige udvikling . Katolske moralteologer havde tidligere indgivet et amicus curiae-indlæg til støtte for Anthropic i en tvist med Pentagon om virksomhedens nægtelse af at tillade sine AI-systemer at blive brugt til masseovervågning eller autonome våben .

En fælles tese og komplementære styrker

Både Anthropic og Vatikanet konvergerer om en central tese: udviklingen af super-AI accelererer hurtigere, end styring og etik kan følge med, og en bevidst pause eller opbremsning er nødvendig for at bevare menneskelig kontrol, værdighed og det fælles bedste. Kirkens bidrag tilføjer en robust moralsk og teologisk ramme – forankret i menneskets værdighed, det fælles bedste og beskyttelse af de svage – som komplementerer Anthropics tekniske og sikkerhedsmæssige argumentation .
Som en iagttager formulerede det, argumenterer begge institutioner for, at 'samfundet kan have svært ved at følge med de hurtige teknologiske fremskridt', og at en opbremsning 'sandsynligvis er en god ting' – forudsat at den er koordineret, verificerbar og ikke blot et redskab for mindre forsigtige konkurrenter til at vinde terræn .