Pave Leo XIV advarer mot AI uten menneskelig kontroll

Pave Leo XIVs ferske budskap om kunstig intelligens er ikke en avvisning av teknologi. Det er først og fremst en advarsel om hvem som får kontrollere den – og hva som skjer når menneskelig ansvar overlates til maskiner.

I taler til International Catholic Legislators Network 21. august og International Institute of Administrative Sciences 28. august sa han at AI må forbli et redskap for fellesskapets beste. Teknologien må styres av menneskelig fornuft, samvittighet og lov – ikke av tempo, profitt eller ugjennomsiktige systemer.

De to talene bygger videre på hovedideen i encyklikaen Magnifica Humanitas: Teknologiske fremskritt må vurderes ut fra om de beskytter menneskeverd, rettferdighet, fred og menneskers reelle mulighet til å bestemme over egne liv. 16

Advarselen til offentlig forvaltning: Mennesker må ikke bli ofre for egne oppfinnelser

Da paven møtte medlemmer av International Institute of Administrative Sciences, advarte han om at den raske utviklingen av AI kan føre til at menneskeheten «blir offer» for oppfinnelsene den selv har skapt. Han trakk særlig frem faren ved å overlate avgjørelser som gjelder menneskeliv, til maskiner.

Løsningen hans er ikke å forkaste digitale verktøy, men å gjøre dem mer menneskevennlige. Han ba forskere og fagfolk innen offentlig forvaltning finne måter digitale systemer kan tjene livet og freden på, slik at mennesker – ikke automatiserte prosesser – fortsatt står i sentrum for offentlige avgjørelser.

Det setter en tydelig grense for automatisering: AI kan hjelpe forvaltningen, men bør ikke viske ut den menneskelige vurderingen, ansvaret og moralske ansvarligheten som kreves når avgjørelser påvirker menneskers rettigheter, velferd eller verdighet.

Advarselen til lovgiverne: AI-makten blir konsentrert

I talen til International Catholic Legislators Network 21. august rettet Leo oppmerksomheten mot lovgivernes politiske ansvar. Temaet for møtet var «Human Dignity and Artificial Intelligence: Challenges, Chances and Control» – menneskeverd og kunstig intelligens: utfordringer, muligheter og kontroll. Vatikanet beskrev dette som et av vår tids avgjørende spørsmål.

Bekymringen handler ikke bare om at enkelte AI-systemer kan gjøre feil. Den handler også om at avansert teknologi – og makten til å bestemme hvordan den brukes – kan samles hos et lite antall store økonomiske og teknologiske aktører. Leo advarte om at dette kan gjøre fattigere land stadig mer avhengige av rikere land og forsterke eksisterende ulikheter.

Han advarte dessuten mot at innovasjon kan bli et middel for «ideologisk eller økonomisk kolonialisme». Dermed blir styringen av AI et internasjonalt spørsmål, ikke bare en nasjonal debatt om regulering.

Algoritmer kan skape en skjult form for dominans

Leo beskrev også en mer indirekte maktform. Algoritmer kan avgjøre hvem som blir sett, og hvem som forblir usynlig. Digitale plattformer kan påvirke den offentlige samtalen uten tilstrekkelig ansvarlighet, mens automatiserte systemer kan underordne arbeidstakeres verdighet under effektivisering og optimalisering.

Dette er et bredere problem enn teknisk skjevhet i systemene. Det handler om hvem som fastsetter reglene for synlighet, deltakelse og muligheter – og om de som rammes, faktisk har en meningsfull mulighet til å protestere eller få avgjørelsene prøvd.

Når private systemer påvirker den offentlige samtalen eller tilgangen til arbeid uten åpenhet, kan sosial makt flyttes bort fra demokratiske institusjoner og offentlig kontroll.

Derfor løftet han frem familien

Leo kalte familien «menneskehetens første skole» og ba lovgiverne hindre at AI svekker denne rollen.

Poenget er at mennesker formes i relasjoner som lærer oss tillit, ansvar, raushet, dialog og omsorg for andre. Disse egenskapene kan ikke likestilles med hastigheten eller regnekapasiteten til et AI-system. Magnifica Humanitas advarer på samme måte mot å forveksle maskiners ytelse med menneskelig intelligens: AI-systemer kan etterligne enkelte funksjoner ved intelligens og overgå mennesker i hastighet, men de har ikke menneskelig erfaring eller en kroppslig tilstedeværelse. 16

For Leo er det derfor også en del av AI-politikken å beskytte familielivet. Spørsmålet er ikke bare om et system er effektivt, men om bruken styrker relasjonene og institusjonene der mennesker lærer frihet, ansvar og solidaritet.

Tiltakene han ber lovgiverne innføre

Pavens anbefalinger peker mot en menneskesentrert ramme for styring av kunstig intelligens:

• Beskytt grunnleggende rettigheter og friheter. Lovgivningen må sikre at teknologisk fremgang ikke skjer på bekostning av menneskeverdet.
• Styrk personvernet. Brukere må beskyttes mot utnyttelse og urettmessig bruk av personopplysninger.
• Krev åpenhet. Mennesker og institusjoner må kunne forstå hvordan ny teknologi brukes, og hvordan viktige avgjørelser blir tatt.
• Styrk demokratiske institusjoner. Digitale systemer bør støtte, ikke omgå, en ansvarlig og etterprøvbar offentlig styring.
• La mennesker beholde ansvaret. Avgjørelser som påvirker menneskeliv og menneskeverd, må ikke overlates til maskiner uten reell menneskelig kontroll.
• Hindre dominans og overdreven maktkonsentrasjon. Regelverket må håndtere risikoen som oppstår når avansert AI kontrolleres av en liten gruppe mektige aktører.

Tiltakene gjenspeiler encyklikaens bredere argument om at teknologi ikke er samfunnsmessig nøytral. Den kan fremme deltakelse og rettferdighet, men også forsterke ulikhet, kontroll og utestenging.

Slik bygger talene videre på Magnifica Humanitas

Magnifica Humanitas, som ble publisert i mai 2026, handler uttrykkelig om å beskytte mennesket i AI-alderen. Det sentrale spørsmålet er om teknologien fortsatt er innrettet mot menneskeheten, eller om den blir et verktøy for dominans, utestenging eller krig. Encyklikaen ber om at AI «avvæpnes» for slike destruktive logikker. 51016

Talene i august omsetter dette prinsippet til et konkret ansvar for to grupper. Offentlige administratorer må sørge for at digitale systemer tjener innbyggerne og bevarer menneskelig dømmekraft. Lovgiverne må lage regler som beskytter rettigheter, personvern, åpenhet og demokratisk liv. Forskere har på sin side en rolle i å finne praktiske måter teknologien kan tjene livet og freden på.

Samlet sett er dette en forebyggende advarsel. Leo ber samfunnene etablere menneskesentrerte regler mens AI-systemene fortsatt utvikles og tas i bruk – ikke etter at ugjennomsiktige plattformer, konsentrert makt og automatiserte avgjørelser har fått et så sterkt fotfeste at de er vanskelige å utfordre.

Standarden han foreslår, er enkel: AI skal styrke fellesskapets beste uten å fortrenge menneskene som har ansvaret for å definere og forsvare det.