Magnifica Humanitas: Papst Leo XIV. radikale Vision für KI, Arbeit und Frieden

KI als Motor moderner Sklaverei

Magnifica Humanitas behandelt die KI-gestützte Ausbeutung nicht als Metapher oder fernes Risiko. Das Dokument stuft explizit aktuelle Praktiken als reale Formen von Sklaverei ein. Es nennt „digitale Lohnsklaverei“ und algorithmische Arbeitsplatzüberwachung, die Beschäftigten jegliche Handlungsfreiheit und Würde raubt, als Ausdruck einer tieferen Entmenschlichung .

Das ist keine rhetorische Übertreibung. Indem Leo XIV. die Sprache der Sklaverei bemüht, verortet er die Plattformen der Gig-Economy, algorithmisch gesteuerte Lagerhallen von Versandhändlern und ausbeuterische Lieferketten für die Inhalte-Moderation in einem moralischen Rahmen, den die Kirche traditionell für die schwersten Verstöße gegen die menschliche Person reserviert hat. Die Enzyklika beschreibt die KI-gesteuerte Ausbeutung als eine „anti-menschliche Vision“, der man mit „gemeinsamen Standards sozialer Gerechtigkeit“ entgegentreten müsse – ein direkter Aufruf zu verbindlichen Normen, nicht zu freiwilligen Ethik-Versprechen .

Das Argument des Papstes ruht auf einer Prämisse, die sich durch das gesamte Dokument zieht: KI ist moralisch nicht neutral. Ihre Konstruktionsprinzipien kodieren Werte, die die menschliche Person entweder ehren oder erniedrigen . Ein System, das einzig auf Effizienz und Profit optimiert ist, so warnt er, wird Arbeitnehmer unweigerlich als disponible Betriebsmittel behandeln und nicht als Träger einer innewohnenden Würde.

Das Ende der Lehre vom gerechten Krieg

Der vielleicht überraschendste Abschnitt von Magnifica Humanitas ist die Behandlung des Krieges. Die Enzyklika mahnt nicht nur zur Vorsicht bei autonomen Waffen oder plädiert für eine maßgebliche menschliche Kontrolle – Positionen, die der Vatikan bereits zuvor vertreten hatte. Sie geht weiter und erklärt das gesamte Konzept der Lehre vom gerechten Krieg durch die Fähigkeiten Künstlicher Intelligenz für überholt .

„Die Theorie des ‚gerechten Krieges‘, die viel zu oft benutzt wurde, um jede Art von Krieg zu rechtfertigen, ist nun überholt“, schreibt Leo XIV. . Das Dokument ruft zu einer „moralischen Revolution“ auf, die über die Doktrin des gerechten Krieges hinausgeht, und besteht darauf, dass es „im Zeitalter der Künstlichen Intelligenz keinen gerechten Krieg geben kann“ .

Die Begründung ist sowohl praktischer als auch theologischer Natur. Auf der praktischen Seite reduzieren KI-gesteuerte Waffensysteme die menschliche Kontrolle so stark, dass die traditionellen Kriterien für einen gerechten Krieg – Verhältnismäßigkeit, Unterscheidung zwischen Kombattanten und Zivilisten, legitime Autorität – nicht mehr zu erfüllen sind. Auf der theologischen Seite argumentiert die Enzyklika, die Theorie des gerechten Krieges sei historisch immer wieder so weit gedehnt worden, dass sie Konflikte legitimierte, die der Macht und nicht der Gerechtigkeit dienten. Die KI drohe diese Verzerrung bis zur Unkenntlichkeit zu beschleunigen.

Anstelle des Denkens in den Kategorien des gerechten Krieges setzt Leo XIV. auf „verantwortungsvolle Innovation“ und ein proaktives Bekenntnis zur Friedensarbeit – eine Abkehr von der Verwaltung der Bedingungen akzeptabler Gewalt hin zur Verhinderung der Systeme, die Gewalt autonom und unausweichlich machen .

Die Verantwortung der Mächtigen: Big Tech und Regierungen

Durchgehend in Magnifica Humanitas weigert sich Leo XIV., die Architekten der KI aus der Pflicht zu entlassen. Die Enzyklika legt die primäre moralische Verantwortung auf die „Big Tech“-Konzerne und die Regierungen und kleidet deren Entscheidungen in drastische, existenzielle Begriffe .

Er ruft die KI-Entwickler und die Gesellschaften, die sie regulieren, dazu auf, „gemeinsame Standards sozialer Gerechtigkeit“ zu implementieren, die sicherstellen, dass KI die Menschenwürde achtet und dem Gemeinwohl dient . Das ist kein Vorschlag für interne Ethikbeiräte oder freiwillige Leitlinien. Die Wortwahl impliziert durchsetzbare, länderübergreifend entwickelte und angewandte Normen, die einschränken, welche KI gebaut und wie sie eingesetzt werden darf.

Der Papst warnt, dass ohne solche Standards die Entscheidungen einer Handvoll mächtiger Institutionen darüber bestimmen werden, ob KI „ein globales Kastensystem“ erschafft – eine Welt, in der technologische Fähigkeiten Wohlstand und Macht konzentrieren, während breite Bevölkerungsschichten in prekäre Verhältnisse abrutschen . Er sagt diesen Akteuren ausdrücklich, dass sie sich „für Leben oder Tod der Menschheit entscheiden“ müssen – eine Formulierung, die keinen Raum für technokratische Neutralität lässt .

Ein Test für die Menschlichkeit, nicht nur für die Technologie

Magnifica Humanitas ist keine pauschale Ablehnung der Künstlichen Intelligenz. Die Enzyklika erkennt KI als „ein wertvolles Werkzeug“ mit echtem Potenzial an . Ihr Kernargument aber ist, dass dieses Potenzial nur dann ausgeschöpft werden kann, wenn die Menschheit zuerst eine grundsätzliche Frage beantwortet: Welche Art von Zukunft wollen wir bauen, und wer hat das Recht, das zu entscheiden?

Die Antwort von Leo XIV. lautet, dass eine Zukunft, die ohne Gott gebaut wird – ohne einen transzendenten Anker für die menschliche Würde, ohne Grenzen dessen, was optimiert und ausgebeutet werden darf – unweigerlich zu einem neuen Babel werden wird . Die Enzyklika ist eine Forderung, dass die Technologie der Menschheit dient und sie nicht umformt, und eine Warnung, dass das Ignorieren dieser Forderung Konsequenzen nach sich zieht, die die Kirche für so schwerwiegend hält wie je eine, mit der sie sich befasst hat.