Påven Leo XIV: Maskiner får inte ta över människans ansvar

Påven Leo XIV:s budskap om artificiell intelligens är inte ett avståndstagande från tekniken. Det är en varning om vem som styr den – och vad som händer när människor lämnar över sitt ansvar till maskiner.

I tal till International Catholic Legislators Network den 21 augusti och International Institute of Administrative Sciences den 28 augusti betonade han att AI måste förbli ett verktyg för det gemensamma bästa. Tekniken ska vägledas av mänsklig intelligens, samvete och lag – inte enbart av snabbhet, vinstintressen eller ogenomskinliga system.

De två talen utvecklar huvudtanken i hans encyklika Magnifica Humanitas: tekniska framsteg bör bedömas utifrån om de skyddar människans värdighet, rättvisa, fred och verkliga handlingsfrihet. 16

När människor riskerar att bli offer för sina egna uppfinningar

I sitt tal till medlemmarna i International Institute of Administrative Sciences varnade Leo för att den snabba utvecklingen av AI kan leda till att mänskligheten ”blir offer” för sina egna uppfinningar. Han pekade särskilt på risken med att låta maskiner fatta beslut som rör människoliv.

Lösningen är enligt påven inte att överge digital teknik, utan att göra den mer mänsklig. Han uppmanade forskare inom offentlig förvaltning att hitta sätt att låta digitala system tjäna livet och freden – med människor, inte automatiserade processer, i centrum för beslutsfattandet.

Det innebär en tydlig gräns för automatisering. AI kan hjälpa myndigheter och förvaltningar, men får inte sudda ut det mänskliga omdöme, ansvar och moraliska ansvar som krävs när beslut påverkar människors rättigheter, välfärd eller värdighet.

AI-makten samlas hos ett fåtal aktörer

I talet till International Catholic Legislators Network den 21 augusti riktade Leo fokus mot lagstiftarnas politiska ansvar. Mötet hade temat ”Human Dignity and Artificial Intelligence: Challenges, Chances and Control” – människans värdighet och AI: utmaningar, möjligheter och kontroll – vilket Vatikanen beskrev som en av vår tids avgörande frågor.

Problemet är inte bara att AI-system kan göra fel. Påven varnade också för att avancerad teknik och makten att bestämma hur den används kan samlas hos ett litet antal stora ekonomiska och tekniska aktörer. Det kan göra fattigare länder alltmer beroende av rikare länder och förstärka redan existerande ojämlikheter.

Han varnade dessutom för att innovation kan bli ett verktyg för ”ideologisk eller ekonomisk kolonialism”. Därmed blir frågan om AI-styrning internationell – inte bara en fråga om nationell reglering.

Algoritmer kan skapa en osynlig maktordning

Leo beskrev också hur algoritmer och digitala plattformar kan utöva makt utan att det alltid ser ut som politisk styrning. Algoritmer kan avgöra vem som får synas och vem som förblir osynlig, medan plattformar påverkar det offentliga samtalet utan tillräcklig insyn eller ansvar. Automatiserade system kan samtidigt underordna arbetstagares värdighet systemens effektivisering.

Det handlar om mer än teknisk partiskhet. Frågan är vem som sätter reglerna för synlighet, deltagande och möjligheter – och om de som påverkas har en verklig möjlighet att ifrågasätta besluten.

När privata system påverkar det offentliga samtalet eller människors tillgång till arbete utan transparens kan samhällsmakt flyttas bort från demokratiska institutioner och offentlig granskning.

Därför lyfter han fram familjen

Leo kallade familjen för ”mänsklighetens första skola” och uppmanade lagstiftare att hindra AI från att försvaga dess roll.

Hans poäng är att människor först formas i relationer där de lär sig tillit, ansvar, generositet, dialog och omtanke om andra. Dessa egenskaper är inte samma sak som ett AI-systems snabbhet eller beräkningskapacitet.

I Magnifica Humanitas varnar han på liknande sätt för att blanda ihop maskiners prestationer med mänsklig intelligens. AI-system kan efterlikna vissa intelligensfunktioner och överträffa människor i snabbhet, men de har inte mänskliga erfarenheter eller en kroppslig förankring. 16

För Leo blir familjeliv därför också en fråga om AI-politik. Det räcker inte att fråga om ett system är effektivt. Man måste också fråga om användningen stärker de relationer och institutioner där människor lär sig frihet, ansvar och solidaritet.

De skyddsåtgärder han vill se

Påvens rekommendationer pekar mot en människocentrerad modell för AI-styrning:

• Skydda grundläggande rättigheter och friheter. Lagstiftning måste se till att tekniska framsteg inte sker på bekostnad av människans värdighet.
• Värna den personliga integriteten. Användare ska skyddas mot exploatering och olämplig användning av personuppgifter.
• Kräv transparens. Människor och institutioner måste kunna förstå hur ny teknik används och hur beslut med stora konsekvenser fattas.
• Stärk demokratiska institutioner. Digitala system ska stödja, inte kringgå, en ansvarsutkrävande offentlig styrning.
• Behåll det mänskliga ansvaret. Beslut som påverkar människoliv och människovärde får inte lämnas över till maskiner utan meningsfull mänsklig kontroll.
• Motverka dominans och överdriven maktkoncentration. Styrningen måste hantera riskerna när avancerad AI kontrolleras av en liten grupp mycket mäktiga aktörer.

Åtgärderna speglar encyklikans bredare argument: teknik är inte socialt neutral. Den kan främja delaktighet och rättvisa, men också förstärka ojämlikhet, kontroll och utestängning.

Så knyter talen an till Magnifica Humanitas

Magnifica Humanitas, som publicerades i maj 2026, handlar uttryckligen om att skydda människan i AI-eran. Den centrala frågan är om tekniken förblir inriktad på mänsklighetens bästa eller blir ett instrument för dominans, utestängning eller krig. Encyklikan uppmanar till att ”avväpna” AI från dessa destruktiva drivkrafter. 51016

Augustitalen omsätter principen i ansvar för två grupper. Offentliga administratörer måste se till att digitala system tjänar medborgarna och bevarar det mänskliga omdömet. Lagstiftare måste skapa regler som skyddar rättigheter, integritet, transparens och demokratiskt liv. Forskare har samtidigt en roll i att hitta praktiska sätt att få digital teknik att tjäna livet och freden.

Sammantaget är Leo XIV:s varning förebyggande. Han vill att samhällen inför människocentrerade regler medan AI-system fortfarande utvecklas och införs – inte först efter att slutna plattformar, koncentrerad makt och automatiserade beslut har blivit så etablerade att de knappt går att ifrågasätta.

Hans måttstock är enkel: AI ska stärka det gemensamma bästa utan att ersätta de människor som har ansvaret för att definiera och försvara det.