DeepSeek-Ingenieur warnt: KI könnte ihre eigenen Entwickler überflügeln

Shengyu Liu, online als „interestingLSY“ bekannt, arbeitet bei DeepSeek an Machine-Learning-Systemen sowie am Entwurf und der Optimierung von Kerneln – also besonders hardwarenaher Software. In seinem Essay I Have No Choice but to Bury My Talent in Yesterday beschreibt er nicht bloß bessere Programmierwerkzeuge. Er verarbeitet die Aussicht, dass die KI, an deren Entwicklung er mitwirkt, genau jene hoch spezialisierte Tätigkeit übernehmen könnte, die seiner Arbeit Sinn gibt. Zugleich warnt er davor, die leistungsfähigste KI in den Händen weniger geschlossener Unternehmen zu konzentrieren. 7

Vom Werkzeug zum möglichen Ebenbürtigen

Liu schildert einen rasanten Wandel: Zunächst halfen KI-Systeme beim Auffinden von Dokumentation und bei der Fehlersuche. Später könnten sie GPU-nahen Code prüfen, die Umsetzung und Leistungsgrenzen eines Software-Operators verstehen und Optimierungen vorschlagen oder selbst durchführen. 1 11

Gerade für einen Ingenieur, der an Kernel-Optimierung arbeitet, wäre das ein tiefgreifender Einschnitt. Der Wert dieser Arbeit liegt in sehr spezifischem, mühsam erworbenem Urteilsvermögen über Leistung auf niedriger Systemebene. Liu befürchtet, dass leistungsfähigere Systeme irgendwann den Teil seiner Arbeit erledigen könnten, den er am meisten schätzt.

Das müsse nicht sofort zur Arbeitslosigkeit führen. Ein Ingenieur könnte weiterhin beschäftigt sein, aber vom selbst tätigen Entwickler zum Aufseher automatisierter Agenten werden. Genau diesen Verlust an schöpferischer Tätigkeit bringt der Titel seines Essays zum Ausdruck. 1 3

Wichtig ist die Einordnung: Lius Text ist ein persönlicher Bericht über erwartete technologische Entwicklungen. Er belegt nicht, dass KI Kernel-Ingenieure in realen Produktionsumgebungen bereits autonom ersetzen kann.

Seine Warnung vor konzentrierter AGI-Macht

Mit der Sorge um die eigene Arbeit verbindet Liu eine Grundsatzfrage: Wer besitzt und kontrolliert die fortschrittlichste KI? Er schrieb, er wolle nicht, dass Anthropic die weltweit leistungsfähigste KI oder AGI kontrolliere. AGI steht für „Artificial General Intelligence“, also eine hypothetische, breit menschenähnliche allgemeine Intelligenz. Zur Zuspitzung nutzte Liu den Vergleich, die Lage sei ähnlich gravierend wie der Besitz der Atombombentechnologie durch Hitler vor den Alliierten. 2 9

Dieser Vergleich ist Lius eigene, bewusst extreme Rhetorik – keine sachliche Gleichsetzung von Anthropic mit dem NS-Regime. Sein Kernargument lautet: Erlangt ein einzelnes privates Unternehmen einen entscheidenden Vorsprung bei sehr leistungsfähiger KI, könnte sich wirtschaftliche und geopolitische Macht in außergewöhnlichem Maß und ohne ausreichende Kontrolle bündeln.

Lius Gegenentwurf ist eine fortschrittliche KI, die offen und bezahlbar genug ist, damit sie breit zugänglich bleibt. Die Open-Source-Ausrichtung von DeepSeek stellt er als Gegengewicht zu geschlossenen westlichen Spitzenlaboren dar – und als einen Grund, dort zu arbeiten. 1 3

Das ist allerdings eine normative Position, kein abschließendes Sicherheitsurteil: Breiter Zugang kann Macht verteilen, zugleich aber missbräuchlichen oder verantwortungslosen Akteuren den Zugang zu leistungsfähigen Fähigkeiten erleichtern.

Misstrauen gegenüber Anthropic und OpenAI

Lius Skepsis gegenüber Anthropic und OpenAI ist politisch ebenso wie wirtschaftlich geprägt. Er bezweifelt, dass Unternehmen mit proprietären Spitzenmodellen neutrale Verwalter einer möglichen AGI sein können – insbesondere dann, wenn sie sich zugleich für politische Maßnahmen einsetzen, die Konkurrenten den Zugang zu hochentwickelter Rechenleistung erschweren.

Das ist Lius Bewertung. Die vorliegenden Berichte belegen nicht, dass eines der beiden Unternehmen bereits als unkontrollierbarer AGI-Hüter agiert. Ebenso wenig ist damit nachgewiesen, dass ein Modell mit offenem Zugang sicherer wäre. Im Kern geht es um unterschiedliche Prioritäten: Machtkonzentration, schnelle Verbreitung leistungsfähiger Fähigkeiten, geopolitische Konkurrenz oder katastrophaler Missbrauch.

Teil eines schärferen KI-Konflikts zwischen USA und China

Lius Essay erschien in einer Phase wachsender öffentlicher Spannungen zwischen US-amerikanischen und chinesischen KI-Akteuren.

Anthropic wirft DeepSeek, Moonshot und MiniMax vor, in großem Umfang unerlaubte Destillation betrieben zu haben. Dabei werden Ausgaben eines stärkeren Modells genutzt, um ein schwächeres Modell zu trainieren oder zu verbessern. Laut Anthropic soll es über rund 24.000 betrügerische Konten mehr als 16 Millionen Interaktionen mit Claude gegeben haben. Das sind Vorwürfe von Anthropic, keine in diesem Zusammenhang gerichtlich festgestellten Tatsachen.

Anthropic-Chef Dario Amodei fordert zugleich, dass die Branche die Verbesserung der Fähigkeiten von Spitzenmodellen langsamer vorantreibt. Dadurch solle mehr Zeit für Sicherheitsforschung, Aufsicht und Risikomanagement entstehen. Außerdem sprach er sich dafür aus, Beschränkungen für Exporte der modernsten KI-Chips und Chipfertigungsanlagen nach China aufrechtzuerhalten. Ein chinesischer Vorsprung bei KI berge aus seiner Sicht erhebliche Risiken für die USA und die Welt.

Chinesische Regierungsvertreter und staatsnahe Medien weisen diese Sicht zurück. Das chinesische Außenministerium kritisierte Amodeis Forderung, Chinas KI-Fähigkeiten zu begrenzen. Die Global Times bezeichnete den Vorschlag zur Verlangsamung als „Cold War playbook“ – als Strategie, den technologischen Vorsprung der USA zu sichern.

Kritik auch am Wettlauf selbst

Die Debatte lässt sich nicht einfach als Gegensatz zwischen westlichen Sicherheitsbefürwortern und chinesischen Beschleunigern darstellen. Der frühere Anthropic- und OpenAI-Forscher Jacob Coxon kündigte im September 2026 bei Anthropic und verließ die KI-Branche. Er warf beiden Unternehmen vor, auf selbstverbessernde Superintelligenz zuzurasen, ohne verantwortungsvoll zu handeln. Den Wettlauf nannte er ein „Glücksspiel mit unserem Leben“. 17

Coxons Kritik unterscheidet sich von Lius: Coxon fokussiert das Risiko, immer leistungsfähigere KI zu schnell zu entwickeln. Liu betont dagegen vor allem das Risiko, dass ein geschlossenes US-Labor diese Technologie dominiert. Beide stellen jedoch infrage, ob der gegenwärtige Wettbewerbsdruck automatisch legitim oder harmlos ist.

Die offene Frage

Liu macht aus einer beruflichen Sorge ein Governance-Problem: Wenn KI selbst hoch spezialisierte Fähigkeiten übernehmen kann, wer entscheidet dann über ihren Einsatz? Wie lässt sich die Macht weniger Unternehmen begrenzen, wenn diese die stärksten Systeme kontrollieren? Und wie kann Missbrauch verhindert werden, wenn solche Fähigkeiten breit zugänglich sind?

Einen Konsens gibt es nicht. Liu sieht Offenheit und Bezahlbarkeit als notwendiges Gegengewicht zur privaten Machtkonzentration. Anthropic plädiert für ein gebremstes Entwicklungstempo, stärkere Sicherheitsvorkehrungen und Beschränkungen, die den technologischen Vorsprung der USA sichern sollen. Chinesische Kritiker betrachten diese Beschränkungen als Eindämmungspolitik.

Lius Perspektive ist deshalb bemerkenswert: Sie kommt von jemandem, der an Systemen arbeitet, die im Zentrum dieses Konflikts stehen – und der befürchtet, dass eine der ersten großen Umwälzungen durch KI nicht nur Routinearbeit trifft, sondern auch die Expertenarbeit der Menschen, die diese Systeme voranbringen.