Sam Altman warnt vor Kontrollverlust und konzentrierter KI-Macht

Leistungsfähige KI kann die Gesellschaft nach Ansicht von OpenAI-Chef Sam Altman auf zwei grundsätzlich verschiedene Arten gefährden: Menschen könnten die Kontrolle über immer fähigere Systeme verlieren – oder die Kontrolle über diese Systeme könnte sich in den Händen weniger Akteure konzentrieren. Damit verknüpft Altman technische KI-Sicherheit und politische Machtfragen: Entscheidend ist nicht nur, was Modelle können, sondern auch, wer sie lenkt. 1316

Zwei Entwicklungen, die Altman verhindern will

Erstens: der Verlust menschlicher Kontrolle. Altman warnte davor, die Menschheit könne „die Kontrolle über die Zukunft an KI verlieren“. Das sei nicht hinnehmbar. KI müsse Menschen dienen – nicht Menschen von Systemen abhängig machen oder ihnen unterordnen, die sie nicht ausreichend überwachen können. 216

Zweitens: konzentrierte KI-Macht. Ebenso problematisch wäre aus seiner Sicht eine Welt, in der ein außergewöhnlich leistungsfähiges KI-System von einer einzelnen Person, einem Unternehmen oder einem Staat kontrolliert wird und dessen Weltbild allen anderen aufzwingt. Das könne „extrem dystopisch“ werden, so Altman. 113

Die Risiken hängen zusammen, sind aber nicht identisch. Beim ersten geht es darum, ob Menschen leistungsfähige Systeme verstehen, begrenzen und überstimmen können. Beim zweiten darum, dass ein grundsätzlich kontrollierbares System von einem Akteur mit zu wenig eingehegter Macht eingesetzt wird.

Welche Schutzmaßnahmen Altman fordert

Altman plädiert öffentlich nicht für einen vollständigen Stopp der KI-Entwicklung. Seine Position lautet vielmehr: Die Fähigkeiten der Modelle dürfen der Forschung zu Ausrichtung (Alignment) und Überwachung nicht davonlaufen. Wettbewerbsdruck dürfe kein Vorwand für leichtfertige Einführung sein. 213

Zu den von ihm hervorgehobenen Maßnahmen gehören:

• Alignment und Überwachung müssen mit den Fähigkeiten Schritt halten. Entwickler müssen aussagekräftig prüfen und kontrollieren können, was zunehmend leistungsfähige Systeme tun. 213
• KI muss dem Menschen dienen. Das ist das Leitprinzip hinter Altmans Warnung vor Kontrollverlust. 216
• Einheitliche bundesweite Regeln für Frontier-KI in den USA. Altman begrüßte einen Rechtsrahmen mit konsistenten Anforderungen für die Risiken besonders leistungsfähiger Modelle, statt sich allein auf uneinheitliche freiwillige Zusagen zu verlassen. 1316
• Unabhängige Kontrolle. Unabhängige Prüfer könnten nach seiner Auffassung dazu beitragen, öffentliches Vertrauen in Unternehmen aufzubauen, die immer leistungsfähigere Modelle entwickeln. 16

Praktisch bedeutet das: Je leistungsfähiger ein System ist, desto höher sollte die Begründungslast vor seiner Einführung sein. Sicherheitsvorkehrungen müssten vor der Bereitstellung getestet und glaubwürdig sein – nicht erst nachträglich ergänzt werden.

Die Warnungen aus Anthropic verschärfen die Debatte

In derselben Woche warnte der frühere Anthropic-Forscher Jacob Coxon, führende KI-Labore rasten auf sich selbst verbessernde KI zu und würden dabei „mit unserem Leben spielen“. Berichten über seinen Rücktritt zufolge glaubte er, dass Forschende an diesen Systemen ernsthaft fürchteten, sie könnten zu mächtig werden, um von Menschen kontrolliert zu werden. 17

Der Ton ist schärfer als bei Altman, das Grundproblem aber ähnlich: Der Fortschritt bei den Fähigkeiten könnte schneller sein als die Fähigkeit, Systeme zuverlässig zu beaufsichtigen. In einer öffentlich berichteten Auseinandersetzung nannte Evan Hubinger, Leiter für Alignment bei Anthropic, persönlich eine Wahrscheinlichkeit von mehr als 10 % dafür, dass KI innerhalb eines Jahrzehnts zum Aussterben der Menschheit führen könnte. Zugleich räumte er ein, dass es bislang keine vollständige Lösung für die Ausrichtung einer Superintelligenz gebe. Das ist eine individuelle Risikoeinschätzung – keine gesicherte Prognose oder wissenschaftlich etablierte Wahrscheinlichkeit. 17

Entscheidend ist nicht, dass ein konkreter Zeitplan für eine Katastrophe bewiesen wäre – das ist er nicht. Relevant ist vielmehr, dass Forschende aus dem Umfeld der KI-Spitzenentwicklung öffentlich darüber streiten, ob die heutigen Sicherheitspraktiken schnell genug vorankommen.

Der zentrale Streit: Fähigkeiten zuerst – oder Sicherheit zuerst?

Die Debatte wird oft als Konflikt zwischen Beschleunigung und Verlangsamung der KI dargestellt. Das greift zu kurz. Die meisten Beteiligten sehen erhebliche mögliche Vorteile von KI. Gestritten wird vor allem über Reihenfolge und Durchsetzbarkeit.

Die eine Position lautet: Die Entwicklung von Frontier-Modellen sollte so getaktet werden, dass Sicherheitsforschung, Tests, Regeln und Maßnahmen gegen Missbrauch mithalten können. Anthropic-Chef Dario Amodei forderte, das Tempo der Fähigkeitssteigerung zu drosseln. Zu seinen Vorschlägen zählen fest eingebundene unabhängige Prüfer, Koordination zwischen Frontier-Laboren und internationale Zusammenarbeit.

Der gegenteilige Druck ist real: Unternehmen und Regierungen fürchten, bei einem langsameren Vorgehen wirtschaftliche oder geopolitische Vorteile an Wettbewerber zu verlieren. Altman hält dagegen, dass Konkurrenz keine Rechtfertigung dafür sei, Fähigkeiten schneller wachsen zu lassen als Alignment und Überwachung. 13

Reuters berichtete, einige Forschende gingen davon aus, dass Modellfähigkeiten schneller als erwartet zunehmen, während Menschen weniger Einblick in die Systeme hätten und sie womöglich schlechter kontrollieren könnten. Damit wird die politische Kernfrage dringlicher: Sollen Labore immer autonomere Modelle weiter einsetzen, während Schutzmechanismen aufholen? Oder müssen sie vorher zeigen, dass diese Mechanismen ausreichen?

Was das für die KI-Regulierung bedeutet

Altmans zwei Warnungen legen nahe, dass Regeln für Frontier-KI beide Dimensionen abdecken müssen: technische Kontrolle und Verteilung von Macht. Bessere Modelltests, Alignment-Forschung, Überwachung und unabhängige Aufsicht richten sich gegen das erste Problem. Einheitliche Regeln, Transparenz und Grenzen für einseitige Kontrolle gegen das zweite.

Weder Katastrophenszenarien noch exakte Zeitangaben sollten als feststehende Tatsachen behandelt werden. Doch gerade die mögliche Schwere eines Versagens erklärt, warum Forderungen nach strengeren Tests, externer Kontrolle und verbindlichen Sicherheitsanforderungen von einem Nischenthema zu einer zentralen Frage der KI-Branche geworden sind. 13