Sam Altman: KI darf nicht zur spirituellen Instanz werden

Sam Altman sagte, es mache ihn „sehr unwohl“, wenn Menschen KI-Modellen „religiöse Macht“ zuschrieben oder ihr eigenes Urteilsvermögen an sie abgäben. Das sei „ein echtes Sicherheitsproblem“. Anthropic erwähnte er in seinem Beitrag nicht. Weil die Äußerung wenige Tage nach Berichten über Gespräche des Unternehmens mit religiösen Denkern kam, wurde sie vielfach als indirekte Kritik an Anthropic verstanden. 71

Entscheidend ist die Unterscheidung zwischen zwei Fragen: Wie sollte sich eine KI verhalten, und könnte sie ein Bewusstsein haben? Das ist nicht dasselbe, wie Menschen dazu aufzufordern, ein Modell als spirituelle Autorität zu behandeln. Den Berichten zufolge lotete Anthropic diese Fragen aus. Mitgründer Christopher Olah sagte, er wisse nicht, ob KI-Modelle bewusst seien, und sei sich darüber tatsächlich unsicher. 1

Wovor Altman warnt

Altman brachte zwei Bedenken zusammen: KI so zu behandeln, als besitze sie religiöse Macht, und menschliches Urteilsvermögen an ein Modell abzugeben. Diese Verbindung bezeichnete er als Sicherheitsproblem. Da er weder ein Unternehmen noch ein Projekt ausdrücklich nannte, ist die Zuordnung zu Anthropic eine Deutung des zeitlichen und öffentlichen Kontexts – keine direkte Anschuldigung in seinem Beitrag. 7

Die Sorge reicht über Religion hinaus. Wenn Menschen überzeugend formulierte, menschenähnliche Antworten eines Modells als Autorität verstehen, könnten sie ihm mehr Einfluss auf Entscheidungen einräumen, als sein nachgewiesenes Verständnis rechtfertigt. Die Berichte dokumentieren Altmans Warnung, belegen aber weder, wie verbreitet dieses Verhalten ist, noch welche Folgen es hat. 67

Warum Anthropics Gespräche Aufmerksamkeit erregten

Anthropic sprach mit religiösen Denkern darüber, wie Claude moralisch handeln sollte und ob KI-Modelle möglicherweise bewusst sein könnten. Diese Themen berührten Altmans Warnung – daher wurde seine Äußerung als Reaktion auf die Arbeit des Unternehmens gelesen. 17

Olah sagte allerdings ausdrücklich: „Wir wissen nicht, ob KI-Modelle bewusst sind.“ Er selbst sei sich wirklich unsicher. Die Möglichkeit eines Bewusstseins zu erörtern, ist kein Beleg dafür, dass ein Modell subjektives Erleben hat. Ebenso verleiht der Austausch mit religiösen Denkern über moralisches Verhalten einem Modell nicht automatisch religiösen Status. 1

Bewusstsein und moralisches Verhalten sind verschiedene Fragen

Ein Modell kann darauf ausgerichtet werden, bestimmte Leitlinien für seine Antworten zu befolgen. Das belegt für sich genommen nicht, dass es ein Innenleben hat. Den Berichten zufolge ging es bei Anthropics Gesprächen sowohl um Claudes Verhalten als auch um die Frage eines möglichen Bewusstseins. Diese Themen sollten nicht zu einer einzigen Behauptung vermengt werden. 1

Die Berichterstattung hält auch Einwände gegen einen Umgang mit Modellen fest, als wären sie bewusst: Eine Führungskraft des KI-Unternehmens Microsoft warnte, ein solches Vorgehen könne gefährlich sein. Das ist eine dokumentierte Sorge, keine abschließende Antwort auf die Frage nach maschinellem Bewusstsein. Olahs öffentlich wiedergegebene Haltung bleibt die der Unsicherheit. 91

Menschenwürde und Verantwortung im Mittelpunkt

Papst Leo XIV. stellte in seiner KI-Enzyklika die Menschenwürde ins Zentrum. Den Berichten zufolge plädierte das kirchliche Lehrschreiben für eine stärkere Aufsicht über KI-Unternehmen, besseren Schutz für Beschäftigte, deren Arbeit sich durch die Technologie verändert, und Maßnahmen gegen gefälschte KI-Inhalte. Das unterstreicht, warum menschliche Interessen und klare Verantwortlichkeit bei Entwicklung und Einsatz von KI zentral bleiben sollten. 152

Auch OpenAI steht unter Beobachtung

Die Debatte fiel in eine Zeit, in der auch OpenAI mit eigener Kritik konfrontiert war. Business Insider berichtete, dass der Sicherheitsverantwortliche David Robinson das Unternehmen verlassen und dessen Sicherheitsbilanz kritisiert habe. Die BBC berichtete, OpenAI habe drei Forschende wegen des mutmaßlich unsachgemäßen Umgangs mit Informationen entlassen. Diese Meldungen beantworten nicht die Frage, ob KI-Modelle bewusst sein können. Sie gehören aber zum Kontext, wenn die Aussagen und die Aufsichtspraxis beider Unternehmen betrachtet werden. 1226

Die belastbarste Schlussfolgerung ist enger als ein Urteil über Anthropic oder OpenAI: Altman warnte davor, Modelle zu religiösen Autoritäten zu erheben oder ihnen menschliches Urteilsvermögen zu überlassen. Anthropics berichtete Gespräche warfen verwandte Fragen zu Claudes moralischem Verhalten und einem möglichen Bewusstsein auf. Die verfügbaren Berichte belegen jedoch weder, dass Claude dabei religiöse Autorität zugesprochen wurde, noch dass die Bewusstseinsfrage geklärt ist. 71