Anthropic och Vatikanen i ovanlig allians: Kräver global paus i AI-utvecklingen

Anthropics varning: Risk för rekursiv självförbättring

Anthropics rapport, skriven av forskarna Marina Favaro och Jack Clark, målar upp en dyster bild av hur snabbt AI-förmågorna accelererar. Företaget rapporterade att Claude i maj 2026 stod för mer än 80 procent av koden som slogs samman i Anthropics kodbas, och att en typisk ingenjör numera slår samman ungefär åtta gånger så mycket kod per dag jämfört med 2024 . Författarna varnar för att denna utveckling leder mot rekursiv självförbättring – en process där AI-system självständigt designar, bygger och tränar sina efterföljare, utan att människor driver varje steg .

Företaget säger att man ännu inte har nått den punkten, och att utfallet inte är oundvikligt, men tillägger en dyster brasklapp: 'Det skulle kunna komma tidigare än de flesta institutioner är beredda på' .

De centrala farhågorna

• Förlorad mänsklig kontroll. Anthropics största oro är att AI-framstegen kan springa ifrån existerande säkerhets- och styrningsramverk, vilket gör mänsklig tillsyn till den primära begränsningen för teknisk utveckling . Företaget varnar för att människor riskerar att förlora kontrollen helt om utvecklingen fortsätter obehindrat .
• En 'bromspedal' för branschen. Anthropic beskriver sitt krav på en paus som att bygga en 'bromspedal' för branschen – ett alternativ att sakta ner eller tillfälligt stoppa utvecklingen så att samhällets strukturer och säkerhetsforskning hinner ikapp . Clark sade till BBC Newsnight: 'Du vill ha möjligheten att kunna ta foten från gasen och trampa på bromsen' .
• Villkorlig paus. Anthropic sade att man skulle stödja en paus endast om andra ledande utvecklare deltog och efterlevnad kunde verifieras oberoende . Företaget noterade att om en inbromsning enbart gör att mindre försiktiga aktörer hinner ikapp, skulle det i slutändan kunna äventyra säkerheten för alla .
• Dialog med beslutsfattare. Samtidigt meddelade företaget planer på att sammankalla beslutsfattare för att diskutera farorna med avancerad AI .

Vatikanens Magnifica Humanitas: Ett moraliskt ramverk för AI

Magnifica Humanitas, som släpptes den 25 maj 2026, är cirka 43 000 ord lång och kretsar kring 'att skydda den mänskliga personen i den artificiella intelligensens tidsålder' . Dokumentet uppdaterar uttryckligen Leo XIII:s encyklika Rerum Novarum från 1891 – som behandlade industrialismens arbetsvillkor – och tillämpar dess logik på digitala plattformar, algoritmer, automation och datakoncentration .

Viktiga överensstämmelser med Anthropics varning

• Krav på stark reglering. Påven uppmanade till rigorös tillsyn av AI och varnade för att stora teknikföretag och deras ledare kan samla på sig makt som de skulle missbruka för vinst . Påven Leo menade att AI-leverantörer måste överväga etiken i sina handlingar och förklarade: 'För att AI ska respektera människans värdighet och verkligen tjäna det allmänna bästa krävs stark reglering' .
• Varning mot okontrollerad autonomi. Encyklikan varnar AI-företag för att bygga 'ett nytt Babelstorn' – en moralisk parallell till Anthropics farhågor om system som undgår mänsklig kontroll . Dokumentet jämför en AI-framtid som utesluter Gud med den bibliska berättelsen om mänsklig högfärd .
• Mänsklig värdighet som standard. Magnifica Humanitas hävdar att AI måste tjäna det allmänna bästa och människans välmående, inte enbart drivas av konkurrensdriven acceleration . Centralmeningen i encyklikan lyder: 'Artificiell intelligens måste nu avväpnas, befrias från ramverk som gör den till ett instrument för kontroll, uteslutning och förstörelse' .
• Uppmaning till en långsammare takt. Påven Leo skrev att en uppmaning till eftertanke, rigorös utvärdering och ibland till och med en långsammare takt vid införande av AI inte innebär att man motsätter sig framsteg; det är tvärtom 'en utövning av ansvarsfull omsorg om den mänskliga familjen' .

Direkt samarbete mellan Anthropic och Vatikanen

Överensstämmelsen mellan de två institutionerna går längre än parallella varningar. I en ovanlig manifestation av institutionellt samarbete talade Anthropics medgrundare Chris Olah vid presentationen av Magnifica Humanitas i Vatikanen den 25 maj 2026, vilket markerar ett unikt förhållande mellan ett AI-labb och Heliga stolen . Framträdandet signalerade en sällsynt allians när båda sidor krävde starkare moralisk granskning av artificiell intelligens .

Kontakterna mellan de två sidorna fanns redan. Anthropic hade tidigare rådfrågat katolska tänkare när man utvecklade 'Claude Constitution', det 23 000 ord långa etiska ramverk som styr företagets AI-modeller . Fader Brendan McGuire, en präst och tidigare Silicon Valley-chef, hjälpte till att utforma den konstitutionen och noterade att Magnifica Humanitas har öppnat dörrarna för djupare samtal mellan kyrkan och teknikindustrin .

Mindre än två veckor efter encyklikans publicering berömde katolska AI-experter offentligt Anthropics krav på paus och noterade att det 'ekade påven Leo XIV:s nyliga farhågor' samt prisade företaget för att ställa värderingar mot den snabba utvecklingen . Katolska moralteologer hade också tidigare lämnat in ett yttrande (amicus brief) till stöd för Anthropic i en tvist med Pentagon, som gällde företagets vägran att låta sina AI-system användas för massövervakning eller autonoma vapen .

En gemensam tes och kompletterande styrkor

Både Anthropic och Vatikanen landar i en central tes: utvecklingen av avancerad AI accelererar snabbare än vad styrning och etik hinner anpassa sig, och en medveten paus eller inbromsning behövs för att bevara mänsklig tillsyn, värdighet och det allmänna bästa. Kyrkans bidrag tillför ett robust moraliskt och teologiskt ramverk – rotat i människans värdighet, det allmänna bästa och skydd av de svaga – som kompletterar Anthropics tekniska och säkerhetsorienterade resonemang .

Som en kommentator uttryckte det: båda institutionerna hävdar att 'samhället kan ha svårt att hålla jämna steg med snabba tekniska framsteg' och att en inbromsning 'sannolikt är en bra sak' – förutsatt att den är samordnad, verifierbar och inte bara ett verktyg för mindre försiktiga konkurrenter .