Chinas Geheimdienstchef warnt: KI als Risiko für politische Stabilität und technologische Souveränität

Chen Yixin, Chinas Minister für Staatssicherheit, behandelt künstliche Intelligenz vor allem als Frage der Regimesicherheit und technologischen Souveränität. Seine Warnung richtet sich damit nicht in erster Linie gegen ein abstraktes allgemeines Sicherheitsrisiko oder ein mögliches KI-Aussterbeszenario. Vielmehr geht es um die Sorge, dass gegnerische Akteure KI einsetzen könnten, um China politisch und ideologisch zu destabilisieren, Daten und Infrastruktur auszuspähen und das Land in eine ungleiche, von ausländischer Technologie dominierte Ordnung zu drängen. 2

Deepfakes, Bots und „kognitive Kriegsführung“

Für Chen steht die Gefahr für die politische und ideologische Sicherheit im Vordergrund. Deepfakes, KI-generierte Texte und Bilder sowie automatisierte Konten in sozialen Netzwerken könnten politische Gerüchte erfinden, schädliche Informationen verbreiten und gesellschaftliche Konflikte verstärken. Sie könnten zudem für sogenannte Informationskriege und kognitive Kriegsführung genutzt werden – also für Versuche, öffentliche Wahrnehmungen und Meinungsbildung gezielt zu beeinflussen. Das könne nach Chens Darstellung Chinas politische, institutionelle und ideologische Sicherheit unmittelbar bedrohen. 2

Spionage, Daten und kritische Infrastruktur

Chen warnt außerdem vor dem Nutzen von KI für ausländische Geheimdienste. Weil KI sehr große Datenbestände zusammenführen, auswerten und Personen oder Strukturen profilieren kann, könne sie die Beschaffung von Staatsgeheimnissen, Handels- und Unternehmensinformationen sowie persönlichen Daten erleichtern. 23

Hinzu kommt das Risiko für kritische Informationsinfrastruktur. Chen verweist darauf, dass fortgeschrittene KI Schwachstellen in Systemen besser entdecken und Schadsoftware oder Programme entwickeln könnte, welche diese Schwachstellen ausnutzen. 2

KI als Frage technologischer Eigenständigkeit

Die dritte Ebene seiner Argumentation ist der strategische Technologiewettbewerb. Chen zeichnet KI als Bereich, in dem führende Staaten nationale Sicherheit als Begründung für Technologiebeschränkungen anführen, Standards prägen und geschlossene Ökosysteme aufbauen könnten. 2

Die politische Konsequenz liegt aus dieser Sicht nahe: China soll eigene technologische Fähigkeiten ausbauen, Daten, Algorithmen und Infrastruktur staatlich kontrollieren und Abhängigkeiten vom Ausland vermeiden. 2

Worin sich Chens Position von Amodei, Altman und Musk unterscheidet

Dario Amodei, Chef von Anthropic, setzt einen anderen Schwerpunkt. Er fordert, die Entwicklung der Fähigkeiten von Spitzenmodellen zu verlangsamen, damit Sicherheitsmaßnahmen Schritt halten können. Sein Drei-Stufen-Ansatz umfasst unabhängige Prüfer mit umfassendem Zugang, gemeinsame Sicherheitsstandards von Unternehmen und demokratischen Regierungen sowie später eine breitere internationale Zusammenarbeit. 1

Chen dagegen betrachtet KI-Sicherheit primär durch die Linse von Souveränität und politischer Ordnung. Für ihn besteht das zentrale Risiko nicht nur darin, dass leistungsfähige Modelle allgemein unsicher werden könnten. Er warnt insbesondere davor, dass Gegner KI gegen die Herrschaft der Kommunistischen Partei Chinas einsetzen, chinesische Daten abschöpfen oder westliche Technologievorteile verfestigen könnten. Sicherheit bedeutet in diesem Rahmen daher auch Informationskontrolle, Sicherheitsprüfungen und nationale Kontrolle über Schlüsseltechnologien. 2

Einen begrenzten gemeinsamen Nenner gibt es dennoch: China hat auch zunehmend autonome KI und einen möglichen Kontrollverlust über solche Systeme als zukünftiges Sicherheitsrisiko benannt. Das eröffnet zumindest eine schmale Grundlage für Gespräche zwischen den USA und China. Der grundsätzliche Konflikt über Chips, Modelle, Standards und die Regeln der globalen KI-Governance bleibt davon jedoch unberührt. 3

Sam Altman von OpenAI und Elon Musk stellten sich in dieser Debatte grundsätzlich hinter Amodei. Altman sprach sich dafür aus, die Entwicklung an der Spitze zu „taktieren“, und signalisierte Unterstützung für unabhängige Sicherheitsprüfer. Musk reagierte knapp: „Dario hat recht.“ Ihr Fokus liegt damit auf einem langsameren, überprüfbaren Fortschritt bei leistungsfähigen Modellen – nicht auf Chens staatszentriertem Programm zum Schutz der politischen Ordnung und zur technologischen Autonomie. 1

Die Reaktion chinesischer Staatsmedien und offizieller Stellen macht die Differenz deutlich: Westliche Forderungen nach einer Verlangsamung der KI-Entwicklung wurden dort als angstgetrieben, wettbewerbsschädlich oder als Versuch dargestellt, Chinas technologischen Fortschritt zu begrenzen. 2 Geplante bilaterale Gespräche zwischen den USA und China über KI-Sicherheit stehen daher für ein begrenztes gemeinsames Interesse an kontrollierbaren Systemen – innerhalb eines viel größeren strategischen Wettbewerbs, nicht für eine bereits gemeinsame KI-Politik. 3