Anthropic og Vatikanet enige om KI: Derfor haster det med en global pause i utviklingen

Anthropics advarsel: Risikoen for rekursiv selvforbedring

Anthropics rapport, forfattet av forskerne Marina Favaro og Jack Clark, tegner et nøkternt bilde av hvor raskt KI-egenskapene akselererer. Selskapet rapporterte at Claude per mai 2026 sto bak mer enn 80 % av koden som ble flettet inn i Anthropics kodebase, og at en typisk ingeniør nå flettet inn omtrent åtte ganger så mye kode per dag som i 2024 . Forfatterne advarer om at denne utviklingskurven peker mot rekursiv selvforbedring – en prosess der KI-systemer autonomt designer, bygger og trener sine egne etterfølgere, uten at mennesker styrer hvert steg .

Selskapet sa at de ennå ikke har nådd det punktet, og at utfallet ikke er uunngåelig, men la til en nøktern forbehold: «Det kan komme raskere enn de fleste institusjoner er forberedt på» .

Kjernepunktene i bekymringen

• Tap av menneskelig kontroll. Anthropics sentrale bekymring er at KI-fremgangen kan overgå eksisterende sikkerhets- og styringsrammeverk, noe som gjør menneskelig tilsyn til den primære begrensningen for teknologisk fremgang . Selskapet advarte om at mennesker risikerer å miste kontrollen fullstendig hvis utviklingen fortsetter uhindret .
• En «brems» for industrien. Anthropic beskrev sitt krav om en pause som å bygge en «brems» for industrien – en mulighet til å bremse eller midlertidig stanse frontlinje-KI-utviklingen for å la samfunnsstrukturer og innrettingsforskning (alignment research) holde tritt . Clark sa til BBC Newsnight: «Du vil ha muligheten til å ta foten av gasspedalen og sette den på bremsen» .
• Betinget, ikke ensidig. Anthropic sa at de ville støtte en pause bare hvis andre ledende utviklere ble med, og at etterlevelse kunne verifiseres uavhengig . Selskapet bemerket at hvis en nedbremsing bare gjør det mulig for mindre forsiktige aktører å ta igjen det tapte, kan det i ytterste konsekvens kompromittere sikkerheten for alle .
• Dialog med politikere. Samtidig kunngjorde selskapet planer om å samle beslutningstakere for å diskutere farene ved avansert KI .

Vatikanets Magnifica Humanitas: Et moralsk rammeverk for KI

Magnifica Humanitas, som ble offentliggjort 25. mai 2026, er på omtrent 43 000 ord og har som mål å «beskytte mennesket i kunstig intelligens tidsalder» . Dokumentet oppdaterer eksplisitt Leo XIIIs encyklika Rerum Novarum fra 1891 – som tok for seg industriarbeid – og anvender dens logikk på digitale plattformer, algoritmer, automatisering og datakonsentrasjon .

Sentrale likheter med Anthropics advarsel

• Krav om streng regulering. Paven oppfordret til strengt tilsyn med KI og advarte om at store teknologiselskaper og deres ledere kan samle makt som de vil misbruke for profitt . Pave Leo argumenterte for at tilbydere av KI må vurdere etikken i sine handlinger, og erklærte: «For at KI skal respektere menneskeverdet og virkelig tjene allmennheten, krever det sterk regulering» .
• Advarsel mot ukontrollert autonomi. Encyklikaen advarte KI-selskaper mot å bygge «et nytt Babelstårn» – en moralsk parallell til Anthropics bekymring for systemer som unnslipper menneskelig kontroll . Dokumentet sammenligner en KI-fremtid som utelukker Gud med den bibelske historien, og advarer mot menneskelig arroganse .
• Menneskeverd som standard. Magnifica Humanitas argumenterer for at KI må tjene allmennheten og menneskets blomstring, og ikke drives av konkurransepreget akselerasjon alene . Encyklikaens sentrale setning lyder: «Kunstig intelligens må nå avvæpnes, frigjøres fra rammeverk som gjør den til et instrument for kontroll, utestengelse og ødeleggelse» .
• Krav om lavere tempo. Pave Leo skrev at en oppfordring til klokskap, grundig evaluering, og til og med, til tider, et lavere tempo i innføringen av KI, ikke betyr å motsette seg fremskritt; heller er det «en utøvelse av ansvarlig omsorg for menneskeheten» .

Direkte samarbeid mellom Anthropic og Vatikanet

Samstemtheten mellom de to institusjonene går utover parallelle advarsler. I en sjelden institusjonell samarbeidsform talte Anthropic-medgründer Chris Olah ved presentasjonen av Magnifica Humanitas i Vatikanet 25. mai 2026, noe som understreker et unikt forhold mellom et KI-laboratorium og Den hellige stol . Deltakelsen signaliserte en sjelden allianse idet begge sider ba om sterkere moralsk granskning av kunstig intelligens .

Forbindelser mellom de to sidene fantes allerede fra før. Anthropic hadde tidligere rådført seg med katolske tenkere mens de utviklet «Claude Constitution» (Claude-grunnloven), det 23 000 ord lange etiske rammeverket som styrer KI-modellene deres . Fader Brendan McGuire, en prest og tidligere Silicon Valley-leder, bidro til å forme denne grunnloven og bemerket at Magnifica Humanitas har åpnet dørene for dypere samtaler mellom Kirken og teknologibransjen .

Mindre enn to uker etter at encyklikaen ble offentliggjort, roste katolske KI-eksperter offentlig Anthropics oppfordring om pause, og bemerket at den «gjenspeilte pave Leo XIVs nylige bekymringer» og berømmet selskapet for å sette verdier opp mot den raske utviklingen . Katolske moralteologer hadde tidligere også sendt inn et amicus curiae-innlegg til støtte for Anthropic i en tvist med Pentagon, der selskapet nektet å la KI-systemene sine bli brukt til massesurveillance eller autonome våpen .

En felles tese og komplementære styrker

Både Anthropic og Vatikanet samles om en sentral tese: frontlinje-KI utvikler seg raskere enn styringsmekanismer og etikk kan tilpasse seg, og en bevisst pause eller nedbremsing er nødvendig for å bevare menneskelig tilsyn, verdighet og allmennhetens beste. Kirkens bidrag tilfører et robust moralsk og teologisk rammeverk – forankret i menneskeverd, allmennhetens beste og beskyttelse av de sårbare – som kompletterer Anthropics tekniske og sikkerhetsorienterte resonnement .

Som en observatør uttrykte det, argumenterer begge institusjonene for at «samfunnet kan slite med å følge den raske teknologiske utviklingen» og at en nedbremsing «sannsynligvis er en god ting» – forutsatt at den er koordinert, verifiserbar og ikke bare et verktøy for mindre forsiktige konkurrenter til å ta igjen det tapte .