Papst Leo XIV. und Anthropic-Mitgründer Christopher Olah: KI muss 'abgerüstet' werden

Was die Enzyklika fordert: KI 'abrüsten' und eine 'Kultur der Macht' ablehnen

Magnifica Humanitas ist keine vorsichtige Reflexion über Technologie, sondern ein umfassendes Manifest mit konkreten Forderungen an die Regulierung. Das Dokument, das am 15. Mai unterzeichnet wurde und bei dessen Vorstellung der Papst die Schlussansprache hielt, zeichnet eine Vision für KI, die dem aktuellen Kurs der Branche explizit widerspricht .

1. Abrüstung und 'menschenfreundliche' KI
Papst Leo XIV. forderte direkt, dass KI "abgerüstet" und "menschenfreundlich" gemacht werden müsse. Er warnte vor einem "Wettlauf um immer leistungsfähigere Algorithmen und größere Sprachmodelle", der Menschen entmenschliche . Diese Sprache rahmt die ungezügelte KI-Entwicklung nicht als Fortschritt, sondern als eine Form von Wettrüsten, das die Menschenwürde selbst bedroht.

2. Robuste Regulierung für das Gemeinwohl
Der Papst bestand darauf, dass KI-Entwickler für das Gemeinwohl arbeiten müssten und nicht allein für Profit, und forderte starke rechtliche und regulatorische Rahmenbedingungen . Die Enzyklika stellt unmissverständlich klar: Man darf sich nicht allein auf den Markt verlassen, um die KI-Entwicklung in eine menschenfreundliche Richtung zu lenken.

3. Verbot autonomer Waffensysteme
In einer ihrer konkretesten Forderungen verurteilt Magnifica Humanitas den Einsatz von KI in der Kriegsführung und fordert Verbote für letale autonome Waffensysteme. Der Papst erklärte, es sei moralisch unzulässig, unumkehrbare, tödliche Entscheidungen an KI-Systeme zu delegieren .

4. Schutz der Arbeitnehmer
Ganz in der langen Tradition der kirchlichen Soziallehre zur Arbeit warnt das Dokument davor, dass KI nicht zur Ausbeutung von Arbeitnehmern genutzt oder menschliche Arbeit ohne gerechte Übergänge und Schutzmaßnahmen ersetzen darf. Es weist auf "neue Formen der Sklaverei" hinter der KI hin, von Content-Moderatoren bis hin zu Minenarbeitern .

5. Ablehnung einer 'Kultur der Macht'
Leo XIV. prangerte die technikgläubige Denkweise an, die KI als Selbstzweck behandelt, und verglich den Versuch, eine KI-Zukunft ohne Gott zu bauen, mit dem biblischen Turmbau zu Babel . Dieser theologische Rahmen positioniert eine rechenschaftslose KI-Entwicklung als Akt der Hybris. Das dritte Kapitel mit dem Titel "Technologie und Dominanz" entwickelt dieses Argument weiter und fordert klare Rechenschaftspflichten während des gesamten KI-Entwicklungsprozesses .

Der Vatikan untermauerte sein institutionelles Engagement zusätzlich, indem er am 16. Mai eine neue KI-Kommission einrichtete, die die KI-bezogenen Aktivitäten aller vatikanischen Institutionen koordinieren und interne Richtlinien für den Einsatz von KI im Heiligen Stuhl festlegen soll .

Christopher Olahs Botschaft: Sicherheit, Demut und moralisches Engagement

Vollständige Wortprotokolle von Olahs Podiumsbeitrag wurden nicht umfassend veröffentlicht, aber die Berichterstattung über das Ereignis und Vorankündigungen skizzieren die Hauptstoßrichtung seiner Botschaft . Als weltlicher Redner neben hochrangigen Kardinälen und Theologen nutzte Olah die historische Plattform, um für eine Vision der KI-Entwicklung zu werben, die sich mit dem sicherheitsorientierten Ethos von Anthropic deckt.

Olah stellte KI dem Vernehmen nach als eine gemeinsame moralische Sorge dar und argumentierte, dass KI-Entwicklung nicht nur eine technische Herausforderung sei, sondern eine Frage der Menschenwürde, die einen breiten gesellschaftlichen Input erfordere – explizit auch von religiösen Traditionen . Er betonte die Notwendigkeit einer sicherheitsorientierten Entwicklung und unterstrich, dass KI-Systeme mit robusten Schutzmaßnahmen gebaut werden müssen und die Branche das menschliche Wohlergehen über ungebremsten Wettbewerb stellen müsse . In einer bemerkenswerten Abkehr von techno-utopischer Rhetorik räumte Olah ein, dass KI-Forscher nicht alle Antworten haben und sich ernsthaft mit ethischen Rahmenwerken außerhalb des Tech-Sektors auseinandersetzen müssen, wobei er auf die katholische Soziallehre als wertvolle Ressource verwies .

Seine Anwesenheit war historisch: Es war das erste Mal, dass ein führender KI-Manager bei der Vorstellung einer päpstlichen Enzyklika mit einem Papst auf der Bühne stand. Die Symbolik entging den Beobachtern nicht, die anmerkten, dass dies darauf hindeutet, dass Anthropic die Kirche als wertvolle institutionelle Verbündete im Einsatz für Sicherheitsnormen in der KI-Governance betrachtet .

Die Strategie hinter der Bühne: Anthropics Dialog mit religiösen Institutionen

Das Ereignis vom 25. Mai war kein spontaner Fototermin; es war der öffentliche Höhepunkt einer bewussten und langfristig angelegten Strategie von Anthropic, Brücken zu religiösen und Weisheitstraditionen zu bauen.

In einer Pressemitteilung vom 19. Mai gab Anthropic bekannt, dass das Unternehmen "in den letzten Monaten" Dialoge zwischen seinen Forschern und Vertretern des Vatikans organisiert habe, darunter Theologen und Ethiker, um ein gemeinsames Verständnis der Risiken und moralischen Dimensionen von KI aufzubauen . Das Unternehmen erklärte, dass seine erste Gesprächsrunde "mehr als 15 religiöse und interkulturelle Gruppen" einbezog, als Teil einer breiter angelegten Anstrengung, die eigene KI-Entwicklung in moralischen Traditionen außerhalb der Tech-Branche zu verankern .

Anthropics weitergehendes Muster ist sogar noch aufschlussreicher. Monate vor dem Vatikan-Ereignis arbeitete das Unternehmen mit einem katholischen Priester und anderen religiösen Führern zusammen, um die "Claude Constitution" direkt mitzugestalten – jene Leitprinzipien, die das Verhalten seiner KI regeln . Olah selbst initiierte die Kontaktaufnahme und suchte Hilfe, um ethische Werte in die Systeme des Unternehmens zu kodieren. Dies spiegelt Anthropics Gründungsmission wider, eine KI zu bauen, die "hilfreich, ehrlich und harmlos" ist, sowie Sicherheitsforschung vor der Markteinführung zu betreiben – Werte, die natürlicherweise mit der Betonung des Vatikans auf Menschenwürde und Vorsicht in Resonanz stehen .

Olahs Teilnahme in Rom signalisiert, dass das Unternehmen die Kirche als ernsthaften institutionellen Partner im globalen Gespräch über KI-Regulierung betrachtet – einen, der eine moralische Autorität und globale Reichweite mitbringt, die kein Tech-Konsortium und keine nationale Regulierungsbehörde erreichen kann . Die Entscheidung des Vatikans, Olah als Mit-Präsentator einzuladen, gab dieser Strategie ihre bisher größte Unterstützung.

In einer Welt, in der sich die KI-Entwicklung beschleunigt, stellen Magnifica Humanitas und ihre historische Vorstellung eine klare Forderung dar: Technologie muss dienen, nicht dominieren. Und für Anthropic ist das gemeinsame Auftreten mit dem Papst ein klares Signal, auf welcher Seite dieser Debatte das Unternehmen stehen will.