Trump gegen KI-Bremse: Amodei fordert unabhängige Kontrolle für Spitzenmodelle

Donald Trump ordnet die Debatte über fortgeschrittene künstliche Intelligenz vor allem als Wettlauf mit China ein. Die USA müssten Branchenführer bleiben, sagte er: „Wer KI gewinnt, gewinnt.“ Warnungen, KI könne die Welt übernehmen oder die Menschheit vernichten, nannte Trump später einen „HOAX“. Widerstand gegen KI und Rechenzentren sei eine „SICK conspiracy“, von der China profitiere. 1719

Warum Trump Dario Amodei attackiert

Auslöser war der Aufruf von Dario Amodei, Chef des KI-Unternehmens Anthropic, das Entwicklungstempo der leistungsfähigsten Modelle bewusst zu drosseln. Die Ausgangspunkte sind gegensätzlich: Trump betont den Erhalt der technologischen Führungsrolle der USA; Amodei warnt, dass Fähigkeiten der Modelle schneller zulegen könnten als Sicherheitsverfahren, Tests und Aufsicht. 17

Trump verwies zudem darauf, dass Behörden bereits erhebliche straf- und aufsichtsrechtliche Möglichkeiten gegenüber den Unternehmen hätten. Ein starker Präsident sei der nötige Schutzmechanismus. Seine Kritik an Amodei verbindet damit Zweifel an existenziellen KI-Risiken mit der Sorge, formelle Beschränkungen könnten US-Firmen gegenüber chinesischen Konkurrenten zurückwerfen. 1921

Was Amodei mit „We Must Pace the Frontier“ vorschlägt

Amodei fordert keinen Stopp der KI-Forschung. Sein dreiteiliger Plan soll das ungebremste Wachstum der Fähigkeiten so verlangsamen, dass Sicherheitsforschung, Tests und Regeln aufschließen können.

1. Dauerhaft eingebundene unabhängige Prüfer in Spitzenlaboren: Anthropic will externen Evaluatoren permanenten Zugang auf Mitarbeitenden-Niveau zu seinen Systemen geben. Sie sollen Sicherheitspraktiken überprüfen, Vorfälle melden und während des Trainings bewerten, ob Modelle auf die vorgesehenen Ziele ausgerichtet bleiben. 16
2. Abstimmung führender KI-Unternehmen: Führende Labore sollen gemeinsame Sicherheitsstandards und Grenzen für unkontrollierte Entwicklung festlegen, statt ausschließlich um immer schnellere Leistungssteigerungen zu konkurrieren.
3. Internationale Zusammenarbeit: Die schwersten Risiken fortgeschrittener KI ließen sich letztlich nur über Länder- und Blockgrenzen hinweg behandeln, argumentiert Amodei.

Der erste Punkt ist bei Anthropic nicht nur eine Forderung an Politik oder Wettbewerber, sondern eine eigene, unmittelbare Zusage des Unternehmens. 16

Zustimmung aus der Branche – mit Vorbehalt

OpenAI-Chef Sam Altman erklärte, er teile die Ansicht, dass das Entwicklungstempo an der technologischen Spitze angepasst werden müsse. Auch OpenAI werde externen Prüfern Zugang ermöglichen. Elon Musk, der xAI führt, stimmte Amodei ebenfalls zu.

Microsoft-Chef Satya Nadella begrüßte bewusstes Tempo und fest eingebundene Prüfer, formulierte aber eine zentrale Bedingung: Die Aufsicht dürfe nicht in den Händen einiger weniger Unternehmen liegen. Der Weg zur Superintelligenz müsse der Menschheit dienen und unter menschlicher Kontrolle bleiben.

Ein vollständiges gemeinsames Regulierungssystem ist daraus nicht entstanden. Die Reaktionen zeigen jedoch, dass mehrere Branchenführer eine dauerhafte und formalisierte Kontrolle besonders leistungsfähiger Systeme befürworten.

Das Kernproblem: China und einseitige Zurückhaltung

Der frühere Anthropic- und OpenAI-Forscher Jacob Coxon sagte der BBC, Menschen, die solche Systeme entwickelten, hätten „genuinely frightened“ – also echte Angst – um die Zukunft der Menschheit. Er begrüßte eine Verlangsamung, betonte aber: Sie müsse mit China koordiniert werden. 1

Damit ist das zentrale Dilemma benannt. Wer allein langsamer wird, könnte befürchten, gegenüber Konkurrenten zurückzufallen, die keine vergleichbaren Grenzen akzeptieren. Das chinesische Außenministerium wies Amodeis Forderung nach Beschränkungen für Chinas KI-Fähigkeiten zurück und wertete sie als US-Versuch, China einzudämmen, nicht als neutrale Sicherheitsordnung. 4

Es geht somit auch um Vertrauen: Befürworter sehen wechselseitige Regeln als Mittel zur Risikosenkung. Gegner können dieselben Regeln als Instrument verstehen, mit dem die andere Seite ihren technologischen Vorsprung absichert.

Der Einwand: Schützt KI-Sicherheit etablierte Konzerne?

Investor Michael Burry nannte die Kampagne für ein langsameres Entwicklungstempo „self-serving“, also eigennützig. Sein Argument: Mehr Regulierung und höhere Compliance-Anforderungen könnten etablierten KI-Unternehmen helfen, weil neue Herausforderer dadurch schwerer konkurrieren könnten. Zudem bezweifelt Burry, dass heutige große Sprachmodelle auf dem Weg zu einer künstlichen allgemeinen Intelligenz (AGI) sind.

Dieser Einwand widerlegt Sicherheitsrisiken nicht. Er verweist aber auf ein praktisches Problem jeder Regulierung: Regeln, die Spitzenentwicklung sicherer machen sollen, können zugleich die Marktmacht der Unternehmen festigen, die ihre Vorgaben am leichtesten erfüllen. Ein glaubwürdiger Rahmen müsste daher Sicherheitsfragen und Konzentration wirtschaftlicher Macht gleichermaßen berücksichtigen.

Warum das geplante Treffen von Trump und Xi wichtig war

Trump und Chinas Staats- und Parteichef Xi Jinping sollten bei einem für den 24. September geplanten Treffen unter anderem über KI-Governance sprechen. 4 Das ist relevant, weil die schwierigste Aufgabe einer Sicherheitsstrategie für Spitzen-KI nicht darin besteht, Regeln für ein einzelnes Labor zu schreiben. Entscheidend sind Vereinbarungen, die rivalisierende Großmächte als gegenseitig, überprüfbar und durchsetzbar akzeptieren.

Trumps Fokus auf den Wettbewerb mit China und Pekings Ablehnung von Grenzen für die eigene KI-Entwicklung verdeutlichen, wie schwer solche Absprachen wären. Die Auseinandersetzung geht deshalb über die einfache Frage „beschleunigen oder pausieren?“ hinaus: Sie dreht sich darum, ob sich der KI-Wettlauf steuern lässt, ohne dass Sicherheitspolitik selbst zu einer weiteren Front geopolitischer Konkurrenz wird. 174