Waarom Paus Leo XIV waarschuwt dat AI 'niet moreel neutraal' is

Specifieke ethische eisen en waarschuwingen in de encycliek

Het document telt ongeveer 38.000 tot 42.000 woorden, verdeeld over 245 paragrafen en vijf hoofdstukken . De belangrijkste eisen en waarschuwingen zijn:

• 'AI moet worden ontwapend.' Het centrale bevel van de encycliek (paragraaf 125) roept op om AI te bevrijden van 'kaders die het transformeren in een instrument van controle, uitsluiting en vernietiging' . Dit wordt niet gedefinieerd als afwijzing van technologie, maar als het ontdoen van logica's van overheersing .
• AI is een 'ongekende vorm van kolonialisme.' De paus waarschuwt dat geconcentreerde bedrijfs- en staatscontrole over AI mensen reduceert tot datapunten die worden geëxtraheerd en uitgebuit, wat koloniale dynamieken weerspiegelt .
• Machines kunnen geen morele agenten zijn. De encycliek waarschuwt tegen het toeschrijven van bewustzijn, morele verantwoordelijkheid of persoonlijkheid aan AI en benadrukt dat verantwoordelijkheid altijd bij menselijke actoren moet blijven .
• Afwijzing van transhumanisme en posthumanisme. Het document waarschuwt dat AI-gedreven pogingen om mensen te 'optimaliseren' de inherente waardigheid van de persoon kunnen aantasten .
• Oproep tot gedeelde normen van sociale rechtvaardigheid. De encycliek roept ontwikkelaars en overheden op om 'gedeelde normen van sociale rechtvaardigheid' te implementeren, zodat AI de menselijke waardigheid respecteert en het algemeen belang dient, niet alleen private winst .
• Een 'educatief bondgenootschap'. Het document introduceert een concept van samenwerking tussen gezinnen, scholen en het maatschappelijk middenveld om de school als vormende gemeenschap te verdedigen en de commerciële uitbuiting van de aandacht van kinderen via algoritmische systemen te bestrijden .
• Een waarschuwing voor 'algoritmisch bestuur'. De encycliek eert dat de verborgen waardesystemen die in AI zijn gecodeerd, moeten worden doorgelicht, omdat ontwerpkeuzes een visie op de mens uitdrukken die vaak efficiëntie boven verbondenheid stelt .

Reacties van universiteiten, bisdommen en ethici

• Georgetown University (programma Katholiek Sociaal Denken) organiseerde een groot evenement over de encycliek en noemde het 'de belangrijkste van Leo's pontificaat tot nu toe' .
• Villanova University gaf een officieel persbericht uit waarin de encycliek werd verwelkomd en omschreven als een oproep om menselijke deugden te behouden .
• Manhattan University publiceerde een officiële reactie waarin het de 'leiding van de Heilige Vader met dankbaarheid verwelkomde' .
• Het katholieke bisdom Wilmington plaatste een speciale pagina voor de encycliek, gekoppeld aan een eerdere pastorale brief over AI .
• Het bisdom Aberdeen (VK) publiceerde een samenvatting waarin de oproepen tot bescherming van de mensheid, waarheid, waardigheid van werk en sociale rechtvaardigheid werden benadrukt .
• De Pauselijke Lateraanse Universiteit hield een conferentie getiteld 'Magnifica Humanitas' met sprekers van het Vaticaan en tech-ethici .
• Ethici en commentatoren reageren breed. Het Jacques Delors Instituut noemde de encycliek 'even revolutionair als AI' . ABC Religion & Ethics publiceerde een uitgebreide analyse . Tech-ethicus Dominik Bösl analyseerde de governance-implicaties .