KI-Bremse: OpenAI verschiebt Börsengang, Aktien geraten unter Druck – Trump widerspricht

Dario Amodeis Appell, die Entwicklung der leistungsfähigsten KI-Modelle zu bremsen, ist längst mehr als eine Debatte über technische Sicherheit. Der Anthropic-Chef fand mit Sam Altman einen prominenten Unterstützer, setzte OpenAIs geplanten Börsengang unter neuen Vorbehalt, ließ KI-nahe Aktien fallen – und stieß bei US-Präsident Donald Trump auf klare Ablehnung. 1710

Was Amodei konkret fordert

Amodei verlangt keinen Stopp der KI-Forschung. Sein Ansatz lautet, die „Frontier“ zu takten: Unternehmen sollen die Verbesserung ihrer leistungsfähigsten Modelle gezielt verlangsamen. So sollen Sicherheitsforschung, Kontrolle und Abstimmung zwischen den Akteuren mit dem technischen Fortschritt Schritt halten können.

Seine Sorge: Immer leistungsfähigere Systeme könnten für Menschen schwerer verständlich und kontrollierbar werden – besonders dann, wenn KI substanziell dabei hilft, die nächste KI-Generation zu entwickeln. 177

Der Vorschlag umfasst drei Punkte:

1. Unabhängige Aufsicht direkt in den führenden KI-Laboren: Anthropic will externen Prüfern dauerhaften Zugang auf Mitarbeiterebene gewähren. Sie sollen Sicherheitsmaßnahmen kontrollieren, Vorfälle melden und die Ausrichtung der Modelle während des Trainings bewerten können. 17
2. Abstimmung zwischen führenden KI-Unternehmen: Gemeinsame Sicherheitsstandards und Grenzen sollen einen unkontrollierten Wettlauf verhindern. 17
3. Internationale Zusammenarbeit: Regierungen sollen bei der Steuerung der Risiken fortgeschrittener KI zusammenarbeiten. 17

Entscheidend ist der erste Punkt: Die Sicherheitsprüfung soll nicht allein bei den Unternehmen selbst liegen. Vorgesehen ist eine fortlaufende externe Kontrolle – nicht bloß ein einmaliges Audit.

Altman stimmt zu – und OpenAI sagt IPO 2026 ab

OpenAI-Chef Sam Altman unterstützte Amodeis Position öffentlich. Auch OpenAI müsse die Entwicklung an der Spitze „takten“, schrieb er. Dass sich zwei direkte Konkurrenten in diesem Punkt so offen annähern, gilt als ungewöhnlich. 1

Altman verband die Zustimmung mit einer wichtigen Geschäftsentscheidung: OpenAI werde 2026 nicht an die Börse gehen. Ein IPO sei in der jetzigen Lage „nicht ratsam“, weil das Unternehmen noch erhebliche Arbeit an Sicherheit und Alignment – also der Ausrichtung von KI-Systemen an menschlichen Vorgaben – leisten müsse. Reuters zufolge hält Altman selbst ein Risiko von 10 %, dass KI bis Ende des Jahrzehnts zum Aussterben der Menschheit beitragen könnte, für nicht hinnehmbar.

Damit setzt OpenAI ein deutliches Signal: Sicherheitsarbeit soll Vorrang vor dem Zeitpunkt eines der am meisten erwarteten Börsengänge im Technologiesektor haben. Einen konkreten öffentlichen Plan, um das Modelltempo zu reduzieren, legte Altman allerdings nicht vor.

Warnungen aus der KI-Forschung als Auslöser

Der Vorstoß folgte auf den Rücktritt von Jacob Coxon. Der Forscher erklärte, er habe sowohl bei OpenAI als auch bei Anthropic an Pretraining gearbeitet – also an der Phase, in der Modelle mit großen Datenmengen trainiert werden. Coxon warf den Firmen vor, im Rennen um sich selbst verbessernde KI-Systeme mit dem Leben der Menschen zu „spielen“. 18

Auch Äußerungen von Evan Hubinger, Leiter der Alignment-Forschung bei Anthropic, prägten die Debatte. CNBC berichtete, Hubinger schätze die Wahrscheinlichkeit, dass KI noch in diesem Jahrzehnt alle Menschen töten könnte, persönlich auf mehr als 10 %. Das ist seine individuelle Risikoeinschätzung, keine offizielle Prognose von Anthropic und kein nachgewiesenes Szenario.

Die Warnungen machten aus einer lange eher abstrakten Diskussion über existenzielle KI-Risiken eine unmittelbare Führungsfrage: Sollten Labore ihre Fähigkeiten weiter maximal steigern, obwohl Schutzmechanismen noch entwickelt werden?

Warum KI-Aktien nachgaben

Anleger werteten die Forderung nach einer Verlangsamung als Angriff auf zentrale Annahmen des KI-Booms: stetig leistungsfähigere Modelle, hohe Ausgaben für Rechenkapazität sowie starke Nachfrage nach Chips und Infrastruktur. Aktien mit KI-Bezug in Asien fielen, auch US-Aktienfutures gaben nach.

Die SoftBank-Aktie, deren Konzern zu den wichtigen OpenAI-Investoren zählt, verlor in Tokio zeitweise bis zu 13,2 %, berichtete Reuters. Der Verkaufsdruck erfasste weitere KI-Werte in Asien. Andere Berichte bezifferten das Minus bei Nasdaq-Futures im vorbörslichen Handel auf rund 1,5 %, während insbesondere Chipwerte unter Druck gerieten.

Das bedeutet nicht, dass KI-Investitionen oder die Chipnachfrage zwangsläufig einbrechen. Der Markt bewertete vielmehr ein Risiko neu: Wenn Fortschritte bei Spitzenmodellen absichtlich begrenzt oder verzögert werden, könnten erwartete Umsätze und Renditen für Modellanbieter, Infrastrukturunternehmen und KI-Investmentvehikel später eintreten als bisher angenommen.

Trump lehnt die Forderung ab

Trump wies den Ruf nach einer KI-Bremse zurück. Er stellte KI vor allem als strategischen Wettbewerb zwischen den USA und China dar: „Wer KI gewinnt, gewinnt“, sagte er. Die USA lägen vorn und müssten ihren Vorsprung behaupten. 10

Damit wird der politische Kernkonflikt sichtbar. Sicherheitsbefürworter argumentieren, dass zusätzliche Zeit für Tests, Alignment-Forschung und unabhängige Kontrolle die Gefahr schwerer Schäden senken kann. Gegner einer Verlangsamung fürchten dagegen, einseitige Zurückhaltung könne Staaten oder Unternehmen einen Vorteil verschaffen, die ihre Fähigkeiten ohne vergleichbare Grenzen weiterentwickeln. 1710

Amodei selbst bezeichnete die fehlende internationale Mitwirkung – insbesondere durch rivalisierende Staaten wie China – als schwierigstes Problem seines Ansatzes. Wenn nur einige wenige Spitzenlabore langsamer werden, könnten sicherheitsorientierte Firmen die wirtschaftlichen und geopolitischen Kosten tragen, ohne dass der grundlegende Wettlauf tatsächlich endet.

Was das für KI-Firmen und Börsen bedeutet

Die Episode verbindet seltene Einigkeit mit offenem Konflikt:

• Führende KI-Labore stimmen beim Bedarf an stärkeren Schutzmaßnahmen teilweise überein. Altman unterstützt Amodeis Forderung, Anthropic sagt eingebettete externe Evaluierungen zu.
• Die Umsetzung ist offen. Zustimmung zum „Takten“ der Entwicklung ersetzt keine gemeinsamen Schwellenwerte, Kontrollmechanismen oder verbindliche internationale Vereinbarung. 17
• OpenAIs IPO ist direkt betroffen. Altman schloss einen Börsengang 2026 ausdrücklich aus und verwies auf Sicherheitsprioritäten.
• Bei Anthropic bleibt die Lage beim Börsengang unklar. Die vorliegenden Berichte belegen die Zusage zu externen Prüfern und den weitergehenden politischen Vorschlag, aber keine formelle Änderung eines IPO-Zeitplans aufgrund dieses Konflikts.

Letztlich geht es nicht nur darum, ob KI schneller voranschreiten soll. Es geht darum, wer das Tempo festlegt, welche unabhängigen Nachweise vor weiteren Fähigkeitssteigerungen nötig sind – und ob Sicherheitszusagen dem wirtschaftlichen und geopolitischen Druck standhalten, schneller zu werden. 1710