Der Ruf nach einer langsameren Entwicklung besonders leistungsfähiger KI-Modelle wurde in China nicht als rein technische Sicherheitsmaßnahme aufgenommen. Staatsmedien und Regierungsvertreter sahen darin auch das Risiko, dass die USA ihren technologischen Vorsprung sichern und Chinas KI-Branche bremsen könnten. Gleichzeitig zeigte ein aktualisiertes chinesisches Regelwerk, dass Peking Risiken fortgeschrittener KI durchaus thematisiert.
1
2
6
7
„Sicherheitsargument“ oder Wettbewerbsinstrument?
Anthropic-Chef Dario Amodei hatte dafür plädiert, das Tempo bei der Entwicklung sogenannter Frontier-Modelle – besonders leistungsfähiger KI-Systeme an der technologischen Spitze – zu drosseln, damit Sicherheitsforschung und Schutzmaßnahmen Schritt halten können. OpenAI-Chef Sam Altman und Elon Musk unterstützten den Vorstoß. Amodei sprach zudem über strengere US-Kontrollen für leistungsfähige Chips und Halbleiterausrüstung, die nach China gelangen könnten.
1
3
10
China Daily bezeichnete den Vorstoß als „eigennützig“ und warf den US-Unternehmern vor, damit die amerikanische Vorherrschaft sichern zu wollen. Die staatlich gestützte Global Times nannte die Forderung ein „Kalte-Kriegs-Drehbuch“ und eine gegen China gerichtete Strategie.
1
2
Die Argumentation von China Daily: Nachdem US-Beschränkungen für Chips und Ausrüstung chinesische Unternehmen nicht daran gehindert hätten, konkurrenzfähige KI-Modelle zu entwickeln, könnten Einschränkungen nun von der Hardware auf die Software übergreifen. Aus Sicht der Zeitung würde ein Ruf nach langsameren Fortschritten, verbunden mit gezielten Beschränkungen für chinesische Entwickler, den Wettbewerb zugunsten der USA verschieben. Das ist die Interpretation des Leitartikels – kein belegter Nachweis für die Motive der beteiligten KI-Chefs.
2
11
Pekings Sicherheitsrahmen benennt eigene Risiken
Am 14. September veröffentlichte China eine aktualisierte Fassung seines KI-Sicherheitsrahmens. Darin werden unter anderem Risiken durch autonome KI-Agenten, Cyberbedrohungen und sogenannte rekursive Selbstverbesserung behandelt: Dabei könnten KI-Systeme an der Verbesserung weiterer Systeme mitwirken. Das Regelwerk beschreibt damit Gefahren, die auch in der Debatte über fortgeschrittene KI eine Rolle spielen.
6
11
17
Die Anerkennung solcher Risiken bedeutete allerdings nicht, dass Peking eine allgemeine Entwicklungspause oder speziell gegen chinesische Anbieter gerichtete Beschränkungen unterstützte. Der Rahmen legt vielmehr Chinas eigene Herangehensweise an die Erfassung und Steuerung von Sicherheitsrisiken dar.
6
15
18
Schwieriger Weg zu gemeinsamen Gesprächen
Außenamtssprecher Guo Jiakun warnte vor „Angstmache“, Konfrontation und bösartigem Wettbewerb. Das schade den internationalen Bemühungen um eine globale KI-Governance, erklärte er. China sprach sich zugleich für eine offene und inklusive Entwicklung von KI aus.
1
15
Damit gab es zwar Anknüpfungspunkte für Gespräche über gemeinsame Risiken, Tests und Aufsicht – auch mit Blick auf das geplante Treffen von Donald Trump und Xi Jinping. Eine Einigung über ein gemeinsames Abbremsen der Entwicklung wurde dadurch aber nicht einfacher: Peking betrachtete China-spezifische Kontrollen als möglichen Versuch der Eindämmung, während Trump eine Pause im US-KI-Wettlauf ebenfalls ablehnte. Aus den vorliegenden Berichten geht kein bilaterales KI-Sicherheitsabkommen hervor.
4
6
14