Wenn KI KI entwickelt: Warum Forschende mehr Aufsicht fordern

Die Sorge hinter dem aktuellen Ruf nach Aufsicht ist nicht nur, dass KI-Systeme leistungsfähiger werden könnten. Entscheidend ist auch, dass KI bei der Entwicklung der nächsten KI-Generation mitwirkt – und dadurch eine Rückkopplung entsteht, die Forschung und Entwicklung beschleunigt. Forschende aus OpenAI, Anthropic, Meta und Microsoft wollen, dass politische Entscheidungsträger genauer prüfen, wie weit diese Automatisierung bereits reicht, bevor der technologische Wandel schwerer zu überwachen ist. 23

Eine solche Entwicklung wird manchmal als „Intelligenzexplosion“ bezeichnet. Gemeint ist ein mögliches Risikoszenario – kein Beleg dafür, dass KI sich bereits ohne menschliche Steuerung selbst verbessert. Die politische Kernfrage lautet, wie sich der wachsende Beitrag von KI zur KI-Forschung messen und kontrollieren lässt. 114

Wie KI-gestützte Forschung die Entwicklung beschleunigen könnte

KI kann Aufgaben übernehmen, die bei der Entwicklung künftiger Modelle anfallen. Wenn diese Unterstützung Forschenden hilft, leistungsfähigere Systeme zu bauen, könnten die neuen Systeme wiederum mehr Forschungsarbeit übernehmen. So könnte sich jeder Entwicklungsschritt auf den nächsten auswirken. Für diesen Prozess gibt es den Begriff „rekursive Selbstverbesserung“: KI-Systeme helfen dabei, den Prozess zu verbessern, mit dem weitere KI-Systeme entstehen. 15

Die Warnung der Forschenden betrifft vor allem das Tempo. In einem Szenario, über das im Zusammenhang mit ihrem Papier berichtet wurde, könnten Fortschritte, für die sonst ein Jahr nötig wäre, innerhalb weniger Wochen erreicht werden. Das ist eine Prognose, kein gemessenes Ergebnis; die vorliegenden Quellen belegen nicht, dass dieses Tempo bereits erreicht ist. 314

Eine frühere Interviewstudie mit 25 Forschenden aus führenden KI-Laboren und der Wissenschaft ergab, dass viele erwarteten, KI werde die KI-Forschung automatisieren und eine positive Rückkopplung auslösen. Das erklärt, warum die Möglichkeit in der Branche ernst genommen wird – es beweist aber nicht, dass eine Intelligenzexplosion unausweichlich ist. 1

Was die Forschenden von der Politik verlangen

Konkret wünschen sie sich mehr Einblick darin, in welchem Umfang Unternehmen KI bereits in Forschung und Entwicklung einsetzen. Mehr als 20 Forschende und Branchenvertreter haben politische Entscheidungsträger dazu aufgerufen, diese Entwicklung genauer zu untersuchen und mögliche Schutzmaßnahmen für die Technologie zu prüfen. 2

Das ist nicht gleichbedeutend mit der Behauptung, KI-Labore hätten die Kontrolle über ihre Forschung bereits an KI abgegeben. Bessere Informationen darüber, wo und wie KI zum Einsatz kommt, könnten der Politik helfen einzuschätzen, ob die geltende Aufsicht ausreicht, wenn Systeme mehr Teile des Entwicklungsprozesses übernehmen. 23

Warum manche für ein langsameres Entwicklungstempo werben

Eine abgestimmte Verlangsamung könnte Zeit für Sicherheitstests, unabhängige Bewertungen und eine bessere Aufsicht schaffen, bevor sich die Fähigkeiten der Systeme erneut verändern. Forschende bei OpenAI und Anthropic haben sich öffentlich für ein langsameres Entwicklungstempo ausgesprochen. Andere Branchenvertreter setzen eher auf marktorientierte Schutzmaßnahmen. Eine einheitliche Linie gibt es also nicht – weder dazu, wie stark die Entwicklung gebremst werden sollte, noch dazu, wie eine praktikable Pause aussehen könnte. 818

Auch die Umsetzung wirft Fragen auf: Welche Systeme oder Tätigkeiten wären betroffen? Wer würde die Einhaltung überwachen? Und wie könnten konkurrierende Unternehmen eine Verlangsamung gemeinsam koordinieren? Berichte weisen darauf hin, dass bislang unklar ist, was eine Pause genau bedeuten und wie sie durchgesetzt werden könnte.

Abschalten als Notbremse – mit Grenzen

Microsoft-Präsident Brad Smith hat dafür plädiert, dass Entwickler von KI-Modellen, Anbieter von Cloud-Infrastruktur und Verantwortliche für KI-Agenten die Systeme abschalten können sollten. Eine solche Funktion wäre eine mögliche Notbremse – kein Ersatz für Vorbeugung und laufende Kontrolle.

Eine Abschaltmöglichkeit hat zudem technische Grenzen. KI-Systeme können auf verteilter Infrastruktur laufen; deshalb kann ein einzelner Schalter nicht garantieren, dass jede Komponente stoppt. Fachleute verweisen auch auf die Bedeutung kontinuierlicher Überwachung und menschlicher Eingriffe.

Wenn Unternehmen zugleich kontrollieren und entwickeln

Die vorgeschlagenen Aufgaben für Entwickler und Cloud-Anbieter werfen eine Frage der Aufsicht auf: Unternehmen könnten an der Kontrolle von Systemen beteiligt sein, die sie zugleich entwickeln oder hosten. Microsoft entwickelt KI-Modelle und ist, wie Smiths Äußerungen deutlich machen, auch Cloud-Anbieter. Diese Überschneidung macht unabhängige Prüfungen und klare Regeln wichtig. Sie belegt für sich genommen jedoch nicht, dass die Sicherheitsposition eines Unternehmens unglaubwürdig ist. 2

Hinzu kommt die schwierige Koordination. Branchenvertreter sind sich uneinig über das Entwicklungstempo, während der öffentliche Ruf nach einer Verlangsamung auf starken Wettbewerb bei der Entwicklung und Einführung von KI trifft. Für ein einzelnes Unternehmen könnte es schwierig sein, freiwillig Zurückhaltung zu üben, wenn andere weiter schnell vorangehen. Die Quellen belegen Meinungsverschiedenheiten und Wettbewerbsdruck, nicht aber, dass Geschäftsinteressen die Haltung einzelner Forschender bestimmen. 1218

Für die Politik ergeben sich daraus zwei miteinander verbundene Aufgaben: Sie muss nachvollziehen können, welche Rolle KI bei der Entwicklung weiterer KI spielt, und sie muss Schutzmaßnahmen überprüfbar machen – statt sich allein auf Zusicherungen der Unternehmen zu verlassen. Die Warnungen sprechen dafür, diese Fragen jetzt zu untersuchen. Sie beantworten jedoch weder, wie wahrscheinlich eine Intelligenzexplosion ist, noch, welche politische Maßnahme am wirksamsten wäre. 123