Chen Yixin sieht KI als Risiko für Chinas Staats- und Technologiesicherheit

Chen Yixin, Chinas Minister für Staatssicherheit, warnt davor, dass sich rasch entwickelnde und missbräuchlich eingesetzte KI unmittelbar gegen Chinas politische Stabilität, seine Institutionen, die ideologische Kontrolle und kritische Infrastruktur richten könnte. In seinem Beitrag für das offizielle Magazin China Cyberspace nennt er sechs sicherheitsrelevante Risikofelder. 57

Deepfakes und automatisierte Einflussnahme

Nach Chens Darstellung könnten „feindliche Kräfte“ Deepfake-Audio und -Video, KI-generierte Texte und Bilder sowie automatisierte Social-Media-Konten einsetzen, um politische Gerüchte massenhaft zu produzieren. Dies könne schädliche Inhalte verbreiten, gesellschaftliche Spannungen verschärfen und Operationen zur Beeinflussung der öffentlichen Meinung oder zur kognitiven Kriegsführung ermöglichen. Dadurch seien Chinas politische, institutionelle und ideologische Sicherheit gefährdet. 57

Cyberangriffe, Spionage und Datenabfluss

KI senke zudem Kosten und technische Hürden für digitale Einbrüche und die Entwicklung von Schadsoftware, so Chen. Er warnt vor einer erleichterten Sammlung von Geheimdienstinformationen sowie vor dem massenhaften Abfluss von Staatsgeheimnissen, wirtschaftlich sensiblen Handelsdaten und personenbezogenen Informationen. Auch kritische Informationsinfrastruktur und die gesellschaftliche Steuerung könnten betroffen sein. 31113

KI als Frage technologischer Souveränität

Chen betrachtet den internationalen KI-Wettbewerb zugleich als strategischen Machtkampf. Führende Staaten könnten sich auf nationale Sicherheit berufen, um Technologiekontrollen durchzusetzen, Standards zu prägen oder zu monopolisieren und geschlossene, proprietäre Ökosysteme aufzubauen. KI-Sicherheit ist in dieser Sicht daher eng mit Abhängigkeiten, Kontrolle über Lieferketten, technologischer Eindämmung und möglicher ausländischer Einflussnahme verbunden. 57

Abgrenzung zu den Warnungen aus dem Silicon Valley

Zeitgleich plädierte Anthropic-Chef Dario Amodei in seinem Essay „We Must Pace the Frontier“ nicht für einen Entwicklungsstopp, wohl aber dafür, den Zuwachs an KI-Fähigkeiten so zu verlangsamen, dass Sicherheitsforschung, Schutzmaßnahmen und externe Tests Schritt halten können. Vorgeschlagen hat er unabhängige Prüfer mit dauerhaftem, mit Beschäftigten vergleichbarem Zugang zu führenden KI-Laboren, gemeinsame Sicherheitszusagen demokratischer Staaten und langfristig eine breitere internationale Zusammenarbeit einschließlich autoritär regierter Länder. 122

OpenAI-Chef Sam Altman erklärte, sein Unternehmen wolle die Idee unabhängiger Prüfer mit einem solchen Zugang übernehmen. Auch Elon Musk unterstützte Amodeis Forderung nach einem vorsichtigeren Tempo. 101

Der grundlegende Unterschied liegt im Schwerpunkt: Peking betrachtet KI vor allem durch die Linse von staatlicher Stabilität, Parteiautorität, Datenhoheit und Schutz vor ausländischem Druck. Die Debatte um sogenannte Frontier-KI in den USA konzentriert sich stärker auf extrem leistungsfähige Modelle, die sich möglicherweise nicht ausreichend kontrollieren lassen oder Cyberangriffe, gefährliche wissenschaftliche Anwendungen und autonome schädliche Handlungen erleichtern könnten. 5712

Für die geplanten KI-Sicherheitsgespräche zwischen den USA und China Mitte September ist das bedeutsam. Es handelt sich Berichten zufolge um den ersten offiziellen bilateralen Austausch der zweiten Trump-Amtszeit, der ausschließlich der KI-Sicherheit gewidmet ist. 4 Chen signalisiert, dass Peking dabei voraussichtlich nicht nur über Modellkontrolle und Katastrophenrisiken sprechen will, sondern auch über Einmischung aus dem Ausland, Daten- und Infrastrukturschutz, Mitsprache bei Standards sowie Widerstand gegen technologische Eindämmung. 37

Begrenzte Abkommen zu konkreten Gefahren – etwa KI-gestützten Cyberangriffen, Betrug mit synthetischen Medien, der Meldung schwerer Vorfälle oder militärischen Kommunikationskanälen – könnten daher eher erreichbar sein als ein Konsens über einheitliche Prüfverfahren oder verbindliche Grenzen für KI-Fähigkeiten.