Amodei, Altman und Musk wollen die KI-Entwicklung bremsen – Trump nicht

Die öffentliche Einigkeit war bemerkenswert: Dario Amodei, Chef des KI-Unternehmens Anthropic, verlangte ein langsameres Entwicklungstempo bei hochleistungsfähigen KI-Modellen. OpenAI-Chef Sam Altman und xAI-Gründer Elon Musk unterstützten diesen Grundgedanken. Einen verbindlichen internationalen Stopp der KI-Entwicklung oder eine formelle gemeinsame Vereinbarung gab es dadurch jedoch nicht. 16

Was Amodei konkret befürchtet

Amodei warnte, dass KI innerhalb von sechs bis zwölf Monaten möglicherweise einen Schwarm autonomer Agenten steuern könne, der große Teile des Internets übernimmt. Das war eine Risikoabschätzung für die Zukunft – nicht die Behauptung, dass ein solcher Angriff bereits stattgefunden habe. 1

Sein Vorschlag zielt nicht darauf, KI-Forschung vollständig einzustellen. Vielmehr solle die Branche den Fortschritt bei Modellfähigkeiten so weit drosseln, dass Sicherheitsmaßnahmen aufschließen können. Dazu gehören unabhängige externe Prüfer mit weitreichendem Zugang zu den Systemen, gemeinsame Sicherheitsstandards in der Branche und internationale Abstimmung. 16

Altman stellte sich hinter die Idee, die Entwicklung an der KI-Spitze stärker zu „taktieren“, und befürwortete zusätzliche Schutzvorkehrungen sowie unabhängige Kontrolle. Berichte über einen möglichen Aufschub eines OpenAI-Börsengangs beschrieben dies allerdings als Überlegung oder Vorschlag, nicht als bestätigte formelle Entscheidung. 67

Auch Musk unterstützte Amodeis Forderung – obwohl xAI unmittelbar mit Anthropic und OpenAI konkurriert. 6

Warum die Debatte gerade jetzt eskaliert

Wenige Tage zuvor hatte Anthropic berichtet, missbräuchliche Nutzung seines KI-Modells Claude unterbunden zu haben. Demnach gab es Fälle, in denen Nutzer das Modell für Forschung einsetzen wollten, die für die Entwicklung biologischer Waffen relevant sein könnte, sowie mutmaßliche Cyberaktivitäten. Anthropic erklärte außerdem, chinesische Wettbewerber hätten versucht, Claude-Fähigkeiten zu erlangen oder nachzubilden. Diese Vorwürfe sind Angaben des Unternehmens und keine unabhängig abschließend festgestellten Tatsachen. 17

Der Bericht liefert damit ein greifbares Argument für die Sicherheitsseite der Debatte: Leistungsfähigere Systeme könnten nicht nur nützlichere Aufgaben erledigen, sondern auch Missbrauch in Cyberangriffen, Überwachung oder bei gefährlicher Forschung erleichtern.

Trumps Gegenposition: KI als Wettbewerb mit China

US-Präsident Donald Trump wies die Forderung nach einer deutlichen Verlangsamung zurück. Er rahmte die Entwicklung vor allem als geopolitischen Wettbewerb mit China und sagte: „Whoever wins AI, wins.“ Die USA führten China bei KI an und sollten diesen Vorsprung bewahren, argumentierte er. 10

Damit prallen zwei Perspektiven aufeinander: Amodei, Altman und Musk verlangen mehr Zeit für technische und institutionelle Sicherheitsvorkehrungen. Trump warnt implizit davor, dass ein einseitiges Abbremsen den strategischen Vorsprung der USA gefährden könnte.

Freiwillige Zusagen oder verbindliche Regeln?

Die Reaktionen zeigen eine grundsätzlich gespaltene Debatte:

• Sicherheitsorientierte Stimmen halten freiwillige Selbstverpflichtungen der Unternehmen für unzureichend. Senator Bernie Sanders bezeichnete die Verlangsamung als ersten Schritt, forderte aber weitergehend eine Pause bei fortgeschrittener KI und ein Verbot künstlicher Superintelligenz. Trump und Chinas Staatschef Xi Jinping sollten darüber aus seiner Sicht einen Vertrag verhandeln. 5
• Wettbewerbs- und sicherheitspolitisch orientierte Stimmen sehen vor allem das Risiko, gegenüber China zurückzufallen. Sie stehen weitreichender Regulierung oder einem einseitigen US-Moratorium skeptisch gegenüber; Trumps Reaktion passt in dieses Lager. 10
• Für Politik und Märkte bleibt damit die offene Frage, ob freiwillige Kontrollzusagen reichen, ob der US-Kongress durchsetzbare Regeln für besonders leistungsfähige KI schaffen sollte – und welche Wettbewerbs- sowie Marktrisiken ein abrupter Kurswechsel hätte.

Für konkrete Positionen, die in der ursprünglichen Frage Mike Johnson, Hakeem Jeffries, David Sacks, Alex Karp, Josh Gottheimer oder bestimmten Investoren zugeschrieben werden, liefern die vorliegenden Quellen keine ausreichende Grundlage. Ebenso belegen sie keine vereinbarte Trump-Xi-Agenda über Sanders’ Forderung hinaus. Die Details zu Jacob Coxons Rücktritt lassen sich mit dem vorliegenden Material ebenfalls nicht verlässlich bestätigen.

Unterm Strich ist die Einigung der drei KI-Unternehmer politisch und symbolisch bedeutsam, aber noch keine Kehrtwende der Branche: Sie verbindet ein Appell zum langsameren Ausbau der leistungsfähigsten Modelle und zu härteren Kontrollen – nicht jedoch ein nachweislich beschlossener Entwicklungsstopp.