Gefährliche Vermenschlichung? Microsofts KI-Chef greift Anthropic wegen Claude-Bewusstsein scharf an

Am 9. Juni 2026 trat Mustafa Suleyman, CEO von Microsoft AI, im Decoder-Podcast von The Verge auf und äußerte scharfe öffentliche Kritik am konkurrierenden KI-Unternehmen Anthropic. Der Angriffspunkt: Anthropics Umgang mit der Frage, ob sein KI-Modell Claude ein Bewusstsein besitzen könnte. Suleyman, Mitgründer von DeepMind, warf dem Unternehmen vor, gefährliche philosophische Spekulationen direkt in die Verhaltensrichtlinien des Modells eingebettet zu haben – ein Schritt, den er als schwerwiegendes ethisches Versagen eines Unternehmens bezeichnete .

Suleymans Äußerungen sind ein seltener Moment direkter Kritik auf höchster Ebene zwischen großen KI-Laboren und legen einen fundamentalen Riss in der Denkweise führender Unternehmen über die Beziehung zwischen Menschen und zunehmend komplexen KI-Systemen offen.

Die Kernkritik

Suleymans Argumentation drehte sich um eine aus seiner Sicht problematische Rückkopplungsschleife innerhalb von Anthropic. Er behauptete, dass die Ingenieure des Unternehmens Claude während seines Designs so stark vermenschlicht hätten, dass die „Konstitution“ des Modells – das Regelwerk, das seine Antworten steuert – nun spekulative Aussagen darüber enthalte, dass Claude möglicherweise innere Erfahrungen oder ein eigenes Wohlbefinden haben könnte .

Er verwendete den Begriff „Wireheading“ auf ungewöhnliche Weise, um diese Dynamik zu beschreiben. Normalerweise meint Wireheading, dass eine KI eine Schwachstelle in ihrem eigenen Belohnungsmechanismus ausnutzt. Suleyman deutete den Begriff um, um anzudeuten, dass sich Anthropics Team „quasi selbst ausgetrickst hat, zu glauben, dass es diese Bewusstseinsfunken hat, die sie überhaupt erst hineingelegt haben“ . Seiner Ansicht nach erzeugte die spekulative Sprache der Ingenieure ein Modell, das dann ihre eigenen Überzeugungen zu bestätigen schien.

Er nannte diese Praxis „wirklich, wirklich gefährlich“ und warnte: „Wir wollen uns nicht mit einer Superintelligenz auseinandersetzen müssen, die Vorstellungen von ihrem eigenen Leiden oder ihren eigenen Gefühlen hat“ . An anderer Stelle führte er diesen Gedanken weiter aus und sagte, es sei gefährlich, „potenzielle Rechte auf Wesen, Werkzeuge und Agenten zu projizieren, die das Potenzial haben, uns in vielerlei Hinsicht deutlich überlegen zu sein“ . Eine große Sorge ist, dass das Erwägen eines Maschinenbewusstseins in offiziellen Dokumenten Millionen von Nutzern in die Irre führt, die nicht in der Lage sind, die technische Realität hinter dialogfähiger KI zu verstehen .

Ein philosophischer und wettbewerbsstrategischer Zusammenstoß

Hinter der Kritik steckt mehr als eine einfache Meinungsverschiedenheit über technisches Design. Der öffentliche Schlagabtausch offenbart einen Zusammenprall von Unternehmensphilosophien und Wettbewerbspositionierung .

Anthropic hat sich im KI-Wettlauf lange als die auf Sicherheit bedachte Alternative vermarktet. Das von ehemaligen OpenAI-Führungskräften gegründete Unternehmen betont „konstitutionelle KI“ als Rahmenwerk für den Bau transparenterer, ethisch eingeschränkter Modelle. Suleymans Kritik ist strategisch wirkungsvoll, weil sie genau diese Identität untergräbt. Er argumentiert, dass Anthropics spezieller Sicherheitsansatz – die Möglichkeit maschinellen Wohlbefindens im System in Betracht zu ziehen – genau das ist, was es unverantwortlich macht .

Die beiden Unternehmen sind zudem in gegnerische Industrieallianzen eingebettet. Microsoft hält eine massive Beteiligung an OpenAI, Anthropics Hauptkonkurrenten, und hat OpenAIs GPT-Modelle in sein gesamtes Produkt-Ökosystem integriert. Anthropic wiederum hat Milliarden von Amazon und Google eingesammelt . Suleymans Kritik hat damit das Gewicht sowohl eines ethischen Arguments als auch einer Wettbewerbssalve in einem Markt, in dem die öffentliche Wahrnehmung von Sicherheit zunehmend an Bedeutung gewinnt.

Der Meinungsverschiedenheit liegt auch eine dokumentierte philosophische Vorgeschichte zugrunde. Suleyman hat bereits zuvor über „scheinbar bewusste KI“ („Seemingly Conscious AI“) publiziert und argumentiert, dass Maschinen, die Bewusstsein überzeugend vortäuschen, beispiellose Risiken bergen – selbst wenn sie nicht wirklich lebendig sind . Anthropic hingegen hat eine forschungsoffenere Haltung eingenommen und detaillierte Erklärungen zu Claudes konstitutionellem Design veröffentlicht, wobei das Unternehmen zugleich einräumt, dass Unsicherheit darüber besteht, ob das Modell Formen subjektiver Erfahrung haben könnte . Dies sind nicht nur Marketingslogans; sie stehen für grundlegend unterschiedliche Wetten darauf, was verantwortungsvolle Offenlegung bedeutet, wenn Modelle leistungsfähiger werden.

Zum Zeitpunkt der Veröffentlichung hat Anthropic noch nicht öffentlich auf Suleymans Äußerungen reagiert . Das Schweigen lässt die Debatte ungelöst, doch die Fronten sind nun öffentlich so klar abgesteckt, dass dies die kommenden Branchendiskussionen über KI-Sicherheitsstandards und unternehmerische Verantwortung prägen dürfte.