Anthropic und der Vatikan ziehen an einem Strang: Warum eine globale Pause bei der KI-Entwicklung dringend nötig ist

Anthropics Warnung: Das Risiko der rekursiven Selbstverbesserung

Anthropics Bericht, verfasst von den Forscherinnen Marina Favaro und Jack Clark, zeichnet ein alarmierendes Bild des aktuellen KI-Tempos. Das Unternehmen berichtete, dass Claude im Mai 2026 mehr als 80 % des Programmcodes verfasste, der in die firmeneigene Software-Bibliothek eingepflegt wurde. Ein typischer Ingenieur führt nun täglich etwa achtmal so viele Code-Änderungen zusammen wie noch im Jahr 2024 . Die Autoren warnen, dass diese Entwicklung auf die rekursive Selbstverbesserung zusteuert – einen Prozess, bei dem KI-Systeme vollautonom ihre Nachfolger entwerfen, bauen und trainieren, ohne dass der Mensch jeden Schritt vorgibt .

Anthropic betont, dass dieser Punkt noch nicht erreicht sei und der Ausgang nicht zwangsläufig sei, fügt aber die ernüchternde Einschränkung hinzu: „Er könnte früher eintreten, als die meisten Institutionen darauf vorbereitet sind“ .

Die zentralen Bedenken

• Verlust der menschlichen Aufsicht. Anthropics Hauptsorge ist, dass der KI-Fortschritt die bestehenden Sicherheits- und Governance-Rahmen überholen könnte, sodass die menschliche Aufsicht zum primären Engpass des technologischen Fortschritts wird . Das Unternehmen warnte, dass der Mensch die Kontrolle vollständig verlieren könnte, wenn die Entwicklung ungebremst weitergeht .
• Ein „Bremspedal“ für die Branche. Anthropic bezeichnete seinen Pausenvorstoß als den Bau eines solchen Bremspedals – eine Option, die Entwicklung zu verlangsamen oder vorübergehend zu stoppen, damit gesellschaftliche Strukturen und die Sicherheitsforschung (Alignment-Forschung) Schritt halten können . Clark sagte der BBC Newsnight: „Man möchte die Möglichkeit haben, vom Gas zu gehen und auf die Bremse zu treten“ .
• Bedingt, nicht einseitig. Anthropic erklärte, eine Pause nur zu unterstützen, wenn andere führende Entwickler mitmachen und die Einhaltung unabhängig überprüft werden kann . Das Unternehmen betonte: Wenn eine Verlangsamung lediglich weniger vorsichtigen Akteuren erlaube, aufzuholen, könne dies letztlich die Sicherheit für alle gefährden .
• Dialog mit Politikern. Parallel dazu kündigte das Unternehmen an, politische Entscheidungsträger zusammenzurufen, um die Gefahren fortgeschrittener KI zu thematisieren .

Die Enzyklika des Vatikans: Ein moralischer Rahmen für KI

Die am 25. Mai 2026 veröffentlichte Magnifica Humanitas umfasst rund 43.000 Wörter und stellt den „Schutz der menschlichen Person im Zeitalter der künstlichen Intelligenz“ in den Mittelpunkt . Das Dokument knüpft explizit an die Enzyklika Rerum Novarum von Papst Leo XIII. aus dem Jahr 1891 an, die sich mit der Arbeitswelt der Industrialisierung befasste, und überträgt deren Logik auf digitale Plattformen, Algorithmen, Automatisierung und Datenkonzentration .

Übereinstimmungen mit Anthropics Warnung

• Forderung nach strenger Regulierung. Der Papst drängte auf eine strenge Aufsicht über KI und warnte, dass Big Tech und seine Führungskräfte Macht anhäufen und diese aus Profitgier missbrauchen könnten . Papst Leo argumentierte, dass KI-Anbieter die Ethik ihres Handelns bedenken müssten, und erklärte: „Damit KI die Menschenwürde respektiert und dem Gemeinwohl dient, braucht es eine starke Regulierung“ .
• Warnung vor unkontrollierter Autonomie. Die Enzyklika warnte KI-Unternehmen davor, „einen neuen Turmbau zu Babel“ zu errichten – eine moralische Parallele zu Anthropics Sorge vor der Entfesselung der Systeme . Der Text vergleicht eine KI-Zukunft, die Gott ausschließt, mit der biblischen Erzählung und warnt vor menschlicher Hybris .
• Die Menschenwürde als Maßstab. Magnifica Humanitas argumentiert, dass KI dem Gemeinwohl und dem menschlichen Wohlergehen dienen müsse und nicht allein von Wettbewerbsdruck getrieben sein dürfe . Der zentrale Satz der Enzyklika lautet: „Künstliche Intelligenz muss nun entwaffnet werden, befreit von den Rahmenbedingungen, die sie zu einem Instrument der Kontrolle, des Ausschlusses und der Zerstörung machen“ .
• Aufruf zu einem langsameren Tempo. Papst Leo schrieb, dass die Forderung nach Besonnenheit, gründlicher Prüfung und sogar, manchmal, nach einem langsameren Tempo bei der Einführung von KI nicht bedeute, den Fortschritt abzulehnen; es sei vielmehr „ein Akt verantwortungsvoller Fürsorge für die menschliche Familie“ .

Direkte Zusammenarbeit zwischen Anthropic und dem Vatikan

Die Übereinstimmung der beiden Institutionen geht über parallele Warnungen hinaus. In einem seltenen Schulterschluss zwischen Silicon Valley und dem Heiligen Stuhl sprach Anthropic-Mitbegründer Chris Olah am 25. Mai 2026 bei der Präsentation von Magnifica Humanitas im Vatikan . Dieser Auftritt war ein starkes Zeichen für ein ungewöhnliches Bündnis, in dem beide Seiten eine stärkere moralische Prüfung der Künstlichen Intelligenz forderten .

Die Verbindungen zwischen den beiden Seiten bestanden bereits. Anthropic hatte schon zuvor katholische Denker bei der Entwicklung der „Claude-Verfassung“ konsultiert, einem 23.000 Wörter umfassenden ethischen Regelwerk für seine KI-Modelle . Pater Brendan McGuire, ein Priester und ehemaliger Silicon-Valley-Manager, half bei der Ausarbeitung dieser Verfassung und stellte fest, dass Magnifica Humanitas die Türen für vertiefte Gespräche zwischen Kirche und Tech-Industrie geöffnet habe .

Weniger als zwei Wochen nach der Veröffentlichung der Enzyklika lobten katholische KI-Experten öffentlich Anthropics Pausenvorstoß. Sie stellten fest, dass er die „jüngsten Bedenken von Papst Leo XIV. widerspiegele“, und würdigten das Unternehmen dafür, dass es seine Werte in einer Zeit rasanter Entwicklung nicht aus den Augen verliere . Zuvor hatten katholische Moraltheologen bereits eine Stellungnahme (Amicus Curiae) zur Unterstützung von Anthropic in einem Rechtsstreit mit dem Pentagon eingereicht, bei dem es um die Weigerung des Unternehmens ging, seine KI-Systeme für Massenüberwachung oder autonome Waffen einzusetzen .

Eine gemeinsame These und sich ergänzende Stärken

Sowohl Anthropic als auch der Vatikan laufen auf eine zentrale These hinaus: Die Entwicklung der Frontier-KI beschleunigt sich schneller, als Regierungsführung und Ethik sich anpassen können. Eine bewusste Pause oder Verlangsamung ist notwendig, um die menschliche Aufsicht, die Würde und das Gemeinwohl zu bewahren. Der Beitrag der Kirche fügt einen robusten moralischen und theologischen Rahmen hinzu – verwurzelt in der Menschenwürde, dem Gemeinwohl und dem Schutz der Schwachen –, der die technische und sicherheitsorientierte Argumentation von Anthropic ergänzt .

Wie ein Beobachter es formulierte: Beide Institutionen argumentieren, dass die „Gesellschaft Schwierigkeiten haben könnte, mit dem rasanten technologischen Fortschritt Schritt zu halten“, und dass eine Verlangsamung „wahrscheinlich eine gute Sache“ sei – vorausgesetzt, sie sei koordiniert, überprüfbar und diene nicht nur als Werkzeug für weniger vorsichtige Wettbewerber, um Boden gutzumachen .