Paus Leo XIV waarschuwt voor AI: houd machines onder menselijke controle

De recente boodschappen van paus Leo XIV over kunstmatige intelligentie zijn geen afwijzing van technologie. Zijn waarschuwing gaat vooral over de vraag wie AI beheerst — en wat er gebeurt wanneer mensen hun verantwoordelijkheid uit handen geven aan machines. In toespraken tot het International Catholic Legislators Network op 21 augustus en het International Institute of Administrative Sciences op 28 augustus riep hij op om AI in dienst te houden van het algemeen welzijn. Menselijke intelligentie, geweten en wetgeving moeten richting geven; snelheid, winst en ondoorzichtige systemen mogen dat niet doen.

De twee toespraken werken het centrale principe uit van zijn encycliek Magnifica Humanitas: technologische vooruitgang moet worden beoordeeld aan de hand van de vraag of zij menselijke waardigheid, rechtvaardigheid, vrede en echte menselijke handelingsvrijheid beschermt. 16

De waarschuwing aan bestuurders: mensen mogen geen slachtoffer worden van hun eigen uitvindingen

Tijdens zijn ontmoeting met leden van het International Institute of Administrative Sciences waarschuwde Leo dat de snelle ontwikkeling van AI ertoe kan leiden dat de mens “slachtoffer wordt” van zijn eigen uitvindingen. Hij wees daarbij specifiek op het gevaar dat beslissingen over mensenlevens aan machines worden toevertrouwd.

Zijn antwoord was niet: stop met digitale technologie. Hij pleitte juist voor het menselijker maken ervan. Onderzoekers en bestuurders in de publieke sector moeten volgens hem manieren vinden waarop digitale systemen het leven en de vrede dienen, met mensen — en niet geautomatiseerde processen — als uitgangspunt van publieke besluitvorming.

Daarmee trekt hij een duidelijke grens voor automatisering. AI kan overheden ondersteunen, maar mag het menselijke oordeel, de verantwoordelijkheid en de morele aanspreekbaarheid niet uitwissen wanneer beslissingen gevolgen hebben voor rechten, welzijn of waardigheid van mensen.

De waarschuwing aan politici: AI-macht raakt steeds meer geconcentreerd

In zijn toespraak van 21 augustus tot het International Catholic Legislators Network legde Leo de nadruk op de politieke verantwoordelijkheid van wetgevers. Het Vaticaan omschreef het thema van de bijeenkomst als “Human Dignity and Artificial Intelligence: Challenges, Chances and Control” — menselijke waardigheid en AI: uitdagingen, kansen en controle. Daarmee werd AI-bestuur neergezet als een van de bepalende vraagstukken van deze tijd.

Het probleem is volgens Leo niet alleen dat AI-systemen fouten kunnen maken. Ook de technologie zelf en de macht om te bepalen hoe die wordt ingezet, kunnen in handen komen van een klein aantal grote economische en technologische spelers. Daardoor dreigen armere landen afhankelijker te worden van rijkere landen en kunnen bestaande ongelijkheden verder toenemen.

Ook waarschuwde hij dat innovatie kan uitgroeien tot een instrument van “ideologische of economische kolonisatie”. AI-beleid is daarmee niet uitsluitend een nationale kwestie, maar ook een internationale vraag over macht, afhankelijkheid en rechtvaardigheid.

Algoritmen kunnen een subtiele vorm van overheersing worden

Leo beschreef daarnaast een vorm van macht die niet altijd zichtbaar als bestuur of gezag wordt herkend. Algoritmen kunnen volgens hem bepalen wie wordt gezien en wie onzichtbaar blijft, terwijl digitale platforms het publieke debat beïnvloeden zonder voldoende verantwoording af te leggen. Ook kan de waardigheid van werknemers ondergeschikt raken aan de optimalisatie van systemen.

Dit gaat verder dan het bekende probleem van technische vooringenomenheid. De fundamentele vraag is wie de regels vaststelt voor zichtbaarheid, deelname en kansen — en of mensen die door zulke beslissingen worden geraakt, daar daadwerkelijk tegenin kunnen gaan. Wanneer private systemen zonder transparantie invloed krijgen op het publieke gesprek of op toegang tot werk, verschuift maatschappelijke macht van democratische instellingen en publieke controle naar ondoorzichtige technologie.

Waarom de paus de nadruk legt op het gezin

Leo noemde het gezin de “eerste school van de menselijkheid” en riep wetgevers op te voorkomen dat AI die rol uitholt.

Zijn punt is dat mensen zich ontwikkelen binnen relaties waarin ze vertrouwen, verantwoordelijkheid, vrijgevigheid, dialoog en zorg voor anderen leren. Die eigenschappen zijn niet hetzelfde als de snelheid of rekenkracht van een AI-systeem. Ook Magnifica Humanitas waarschuwt ervoor machineprestaties te verwarren met menselijke intelligentie: AI-systemen kunnen bepaalde functies van intelligentie nabootsen en mensen in snelheid overtreffen, maar ze hebben geen menselijke ervaring of lichamelijkheid. 16

Daarom is de bescherming van het gezinsleven voor Leo ook een kwestie van AI-beleid. Het gaat niet alleen om de vraag of een systeem efficiënt is, maar ook of het gebruik ervan de relaties en instellingen ondersteunt waarin mensen vrijheid, verantwoordelijkheid en solidariteit leren.

Welke waarborgen moeten wetgevers invoeren?

De aanbevelingen van Leo wijzen op een mensgericht kader voor AI-bestuur:

• Bescherm grondrechten en vrijheden. Wetgeving moet voorkomen dat technologische vooruitgang ten koste gaat van menselijke waardigheid.
• Bescherm privacy. Gebruikers moeten worden beschermd tegen uitbuiting en ongepast gebruik van persoonlijke gegevens.
• Eis transparantie. Mensen en instellingen moeten kunnen begrijpen hoe nieuwe technologieën worden gebruikt en hoe beslissingen met grote gevolgen tot stand komen.
• Versterk democratische instellingen. Digitale systemen moeten verantwoord openbaar bestuur ondersteunen, niet omzeilen.
• Houd verantwoordelijkheid bij mensen. Beslissingen over mensenlevens en menselijke waardigheid mogen niet zonder betekenisvolle menselijke controle aan machines worden overgelaten.
• Voorkom overheersing en machtsconcentratie. Beleid moet rekening houden met de risico’s wanneer geavanceerde AI door een kleine groep machtige spelers wordt beheerd.

Deze maatregelen sluiten aan bij het bredere argument van de encycliek dat technologie niet maatschappelijk neutraal is. Ze kan participatie en rechtvaardigheid bevorderen, maar ook ongelijkheid, controle en uitsluiting versterken.

Een concrete uitwerking van Magnifica Humanitas

Magnifica Humanitas, gepubliceerd in mei 2026, is expliciet gewijd aan de bescherming van de menselijke persoon in het tijdperk van AI. De centrale toetssteen is of technologie op de mens gericht blijft — en niet verandert in een instrument van overheersing, uitsluiting of oorlog. De encycliek roept op AI van die destructieve logica’s te “ontwapenen”. 51016

De toespraken van augustus vertalen dat principe naar de verantwoordelijkheden van twee groepen. Bestuurders in de publieke sector moeten ervoor zorgen dat digitale systemen burgers dienen en menselijk oordeel behouden. Wetgevers moeten regels opstellen die rechten, privacy, transparantie en het democratische leven beschermen. Onderzoekers hebben ondertussen de taak praktische manieren te vinden om digitale technologie in dienst te stellen van het leven en de vrede.

Samen vormen Leo’s woorden vooral een preventieve oproep. Hij wil dat samenlevingen mensgerichte regels vastleggen terwijl AI nog volop wordt ontwikkeld en ingevoerd — niet pas nadat ondoorzichtige platforms, geconcentreerde macht en geautomatiseerde besluitvorming te stevig zijn verankerd om nog ter discussie te staan.

Zijn norm is eenvoudig: AI moet het algemeen welzijn versterken zonder de mensen te verdringen die verantwoordelijk zijn voor het definiëren en verdedigen ervan.