Pave Leo XIV advarer om AI: Mennesker skal stadig have kontrollen

Pave Leo XIV’s budskab om kunstig intelligens er ikke en afvisning af ny teknologi. Det er først og fremmest en advarsel om, hvem der styrer den – og hvad der sker, hvis mennesker overlader ansvar og dømmekraft til maskiner.

I taler til International Catholic Legislators Network den 21. august og International Institute of Administrative Sciences den 28. august opfordrede han til, at AI forbliver et redskab for det fælles bedste. Teknologien skal ledes af menneskelig intelligens, samvittighed og lov – ikke af hastighed, profit eller uigennemsigtige systemer.

De to taler omsætter hovedprincippet i hans encyklika Magnifica Humanitas til praksis: Teknologiske fremskridt bør vurderes på, om de beskytter menneskelig værdighed, retfærdighed, fred og menneskers reelle mulighed for selv at handle og tage ansvar. 16

Offentlige myndigheder må ikke gøre mennesker til ofre for deres egne opfindelser

Da Leo talte til medlemmer af International Institute of Administrative Sciences, advarede han om, at den hastige udvikling inden for AI kan føre til, at menneskeheden selv bliver offer for de opfindelser, den har skabt. Han fremhævede især risikoen ved at overlade beslutninger om menneskeliv til maskiner.

Hans svar var ikke at opgive digitale teknologier, men at gøre dem mere menneskelige. Han opfordrede forskere og embedsfolk inden for offentlig administration til at finde måder, hvorpå digitale systemer kan tjene livet og freden – og til at holde mennesker, ikke automatiserede processer, i centrum for offentlige beslutninger.

Det sætter en tydelig grænse for automatisering: AI kan hjælpe den offentlige administration, men må ikke fjerne den menneskelige dømmekraft, det ansvar og den moralske ansvarlighed, der kræves, når beslutninger påvirker menneskers rettigheder, velfærd eller værdighed.

AI-magt kan blive samlet hos en lille gruppe

I sin tale til International Catholic Legislators Network den 21. august fokuserede Leo på lovgivernes politiske ansvar. Vatikanet beskrev mø­dets tema som “Human Dignity and Artificial Intelligence: Challenges, Chances and Control” – menneskelig værdighed og kunstig intelligens: udfordringer, muligheder og kontrol. Det blev dermed fremstillet som et af tidens afgørende spørgsmål.

Bekymringen handler ikke kun om, at enkelte AI-systemer kan begå fejl. Den handler også om, at den avancerede teknologi – og magten til at bestemme, hvordan den bruges – kan blive koncentreret hos et lille antal store økonomiske og teknologiske aktører. Leo advarede om, at det kan gøre fattigere lande mere afhængige af rigere lande og forstærke eksisterende uligheder.

Han advarede desuden om, at innovation kan blive et middel til “ideologisk eller økonomisk kolonialisme”. Derfor er regulering af AI ikke kun et nationalt spørgsmål, men også en international udfordring.

Algoritmer kan dominere uden at se ud som magthavere

Leo beskrev også en mere diskret form for magtudøvelse. Algoritmer kan afgøre, hvem der bliver set, og hvem der forbliver usynlig, mens digitale platforme kan forme den offentlige debat uden tilstrækkelig ansvarlighed. Samtidig kan automatiserede systemer underordne arbejdstageres værdighed under effektivisering og optimering.

Det er et bredere problem end teknisk skævhed i data eller modeller. Det handler om, hvem der fastsætter reglerne for synlighed, deltagelse og muligheder – og om de mennesker, der bliver berørt, har en reel mulighed for at klage eller få beslutningerne prøvet.

Når private systemer uden gennemsigtighed påvirker den offentlige samtale eller adgangen til arbejde, kan social magt flyttes væk fra demokratiske institutioner og offentlig kontrol.

Derfor fremhæver han familien

Leo kaldte familien for “menneskehedens første skole” og opfordrede lovgivere til at forhindre, at AI svækker dens rolle.

Pointen er, at mennesker dannes i relationer, hvor de lærer tillid, ansvar, generøsitet, dialog og omsorg for andre. Disse egenskaber kan ikke sidestilles med et AI-systems hurtighed eller beregningskapacitet.

Magnifica Humanitas advarer på samme måde mod at forveksle maskiners præstationer med menneskelig intelligens. AI-systemer kan efterligne bestemte funktioner ved intelligens og overgå mennesker i hastighed, men de har ikke menneskelig erfaring eller en krop. 16

For Leo er beskyttelsen af familielivet derfor også et spørgsmål om AI-politik. Det afgørende er ikke kun, om et system er effektivt, men om brugen af det styrker de relationer og institutioner, hvor mennesker lærer frihed, ansvar og solidaritet.

De værn, som lovgiverne bør bygge

Leos anbefalinger peger mod en menneskecentreret ramme for regulering af AI:

• Beskyt grundlæggende rettigheder og frihedsrettigheder. Teknologiske fremskridt må ikke ske på bekostning af menneskelig værdighed.
• Værn om privatlivet. Brugere skal beskyttes mod udnyttelse og uhensigtsmæssig brug af personoplysninger.
• Krav om gennemsigtighed. Mennesker og institutioner skal kunne forstå, hvordan nye teknologier bruges, og hvordan beslutninger med store konsekvenser træffes.
• Styrk demokratiske institutioner. Digitale systemer bør understøtte ansvarlig offentlig styring i stedet for at omgå den.
• Hold ansvaret hos mennesker. Beslutninger, der påvirker menneskeliv og værdighed, bør ikke overlades til maskiner uden meningsfuld menneskelig kontrol.
• Modvirk dominans og overdreven koncentration. Regulering bør håndtere risikoen ved, at avanceret AI kontrolleres af en lille gruppe magtfulde aktører.

Tiltagene afspejler encyklikaens bredere argument om, at teknologi ikke er samfundsmæssigt neutral. Den kan fremme deltagelse og retfærdighed, men også forstærke ulighed, kontrol og udelukkelse.

Sådan viderefører talerne Magnifica Humanitas

Magnifica Humanitas, der blev offentliggjort i maj 2026, handler specifikt om at beskytte mennesket i AI-alderen. Encyklikaens centrale prøve er, om teknologien fortsat er rettet mod mennesket – eller om den bliver et middel til dominans, udelukkelse eller krig. Leo opfordrer til, at AI “afvæbnes” for disse destruktive logikker. 51016

August-talerne omsætter dette princip til konkrete opgaver for to grupper. Offentlige administratorer skal sikre, at digitale systemer tjener borgerne og bevarer den menneskelige dømmekraft. Lovgivere skal skabe regler, der beskytter rettigheder, privatliv, gennemsigtighed og det demokratiske liv. Forskere har samtidig en rolle i at finde praktiske måder, hvorpå digitale teknologier kan tjene livet og freden.

Samlet set er Leos advarsel forebyggende. Han ønsker, at samfund indfører menneskecentrerede regler, mens AI-systemer stadig udvikles og tages i brug – ikke først efter at uigennemsigtige platforme, koncentreret magt og automatiserede beslutninger er blevet så indgroede, at de er svære at udfordre.

Hans målestok er enkel: AI bør styrke det fælles bedste uden at fortrænge de mennesker, der har ansvaret for at definere og beskytte det.