Gefährliche Vermenschlichung? Microsofts KI-Chef greift Anthropic wegen Claude-Bewusstsein scharf an

Er nannte diese Praxis „wirklich, wirklich gefährlich“ und warnte: „Wir wollen uns nicht mit einer Superintelligenz auseinandersetzen müssen, die Vorstellungen von ihrem eigenen Leiden oder ihren eigenen Gefühlen hat“ . An anderer Stelle führte er diesen Gedanken weiter aus und sagte, es sei gefährlich, „potenzielle Rechte auf Wesen, Werkzeuge und Agenten zu projizieren, die das Potenzial haben, uns in vielerlei Hinsicht deutlich überlegen zu sein“ . Eine große Sorge ist, dass das Erwägen eines Maschinenbewusstseins in offiziellen Dokumenten Millionen von Nutzern in die Irre führt, die nicht in der Lage sind, die technische Realität hinter dialogfähiger KI zu verstehen .

Ein philosophischer und wettbewerbsstrategischer Zusammenstoß

Hinter der Kritik steckt mehr als eine einfache Meinungsverschiedenheit über technisches Design. Der öffentliche Schlagabtausch offenbart einen Zusammenprall von Unternehmensphilosophien und Wettbewerbspositionierung .

Anthropic hat sich im KI-Wettlauf lange als die auf Sicherheit bedachte Alternative vermarktet. Das von ehemaligen OpenAI-Führungskräften gegründete Unternehmen betont „konstitutionelle KI“ als Rahmenwerk für den Bau transparenterer, ethisch eingeschränkter Modelle. Suleymans Kritik ist strategisch wirkungsvoll, weil sie genau diese Identität untergräbt. Er argumentiert, dass Anthropics spezieller Sicherheitsansatz – die Möglichkeit maschinellen Wohlbefindens im System in Betracht zu ziehen – genau das ist, was es unverantwortlich macht .

Die beiden Unternehmen sind zudem in gegnerische Industrieallianzen eingebettet. Microsoft hält eine massive Beteiligung an OpenAI, Anthropics Hauptkonkurrenten, und hat OpenAIs GPT-Modelle in sein gesamtes Produkt-Ökosystem integriert. Anthropic wiederum hat Milliarden von Amazon und Google eingesammelt . Suleymans Kritik hat damit das Gewicht sowohl eines ethischen Arguments als auch einer Wettbewerbssalve in einem Markt, in dem die öffentliche Wahrnehmung von Sicherheit zunehmend an Bedeutung gewinnt.

Der Meinungsverschiedenheit liegt auch eine dokumentierte philosophische Vorgeschichte zugrunde. Suleyman hat bereits zuvor über „scheinbar bewusste KI“ („Seemingly Conscious AI“) publiziert und argumentiert, dass Maschinen, die Bewusstsein überzeugend vortäuschen, beispiellose Risiken bergen – selbst wenn sie nicht wirklich lebendig sind . Anthropic hingegen hat eine forschungsoffenere Haltung eingenommen und detaillierte Erklärungen zu Claudes konstitutionellem Design veröffentlicht, wobei das Unternehmen zugleich einräumt, dass Unsicherheit darüber besteht, ob das Modell Formen subjektiver Erfahrung haben könnte . Dies sind nicht nur Marketingslogans; sie stehen für grundlegend unterschiedliche Wetten darauf, was verantwortungsvolle Offenlegung bedeutet, wenn Modelle leistungsfähiger werden.

Zum Zeitpunkt der Veröffentlichung hat Anthropic noch nicht öffentlich auf Suleymans Äußerungen reagiert . Das Schweigen lässt die Debatte ungelöst, doch die Fronten sind nun öffentlich so klar abgesteckt, dass dies die kommenden Branchendiskussionen über KI-Sicherheitsstandards und unternehmerische Verantwortung prägen dürfte.