Jack Clarks KI-Prognose für 2028: Warum „KI baut KI“ so brisant ist

Berichte über Clarks Warnung beschreiben das als möglichen Übergang zur Ende-zu-Ende-Automatisierung der Forschung und Entwicklung von Frontier-Modellen . Ein weiterer Bericht fasste die Prognose so zusammen, dass bis Ende 2028 ein KI-Modell seinen Nachfolger vollständig trainieren könnte .

In einfachen Worten: Clark warnt vor dem Moment, in dem KI nicht mehr nur Menschen beim Bau besserer KI hilft, sondern genug vom Entwicklungsprozess übernimmt, damit die nächste Modellgeneration mit wenig oder gar keiner menschlichen Beteiligung entsteht .

Was „KI baut ihren eigenen Nachfolger“ bedeutet

Ein „Nachfolger“ ist hier das nächste, leistungsfähigere System in einer Modellreihe. Clarks Sorge ist, dass ein ausreichend starkes KI-System die entscheidende Arbeit leisten oder automatisieren könnte, die nötig ist, um dieses nächste System zu erzeugen .

Das ist etwas anderes als heutige Coding-Assistenten. Programmierhilfe ist nur ein Baustein in einem viel größeren Forschungsprozess. Clarks Szenario betrifft die gesamte Pipeline: Modelle konzipieren, Trainingsprozesse durchführen, Ergebnisse auswerten und Verbesserungen ableiten .

Wichtig ist die Nuance: Clark behauptet nicht, dass dieser Punkt bereits erreicht ist. Er formuliert eine probabilistische Prognose darüber, was bis Ende 2028 passieren könnte .

Warum von rekursiver Selbstverbesserung die Rede ist

Das Szenario wird oft als rekursive Selbstverbesserung beschrieben: Ein KI-System hilft dabei, ein leistungsfähigeres KI-System zu schaffen; dieses kann anschließend wiederum helfen, ein noch leistungsfähigeres System zu entwickeln .

Die riskante Variante dieser Schleife ist nicht bloß „KI verbessert Software“. Brisant wäre ein sich verstärkender Prozess, bei dem das System, das KI verbessert, von Generation zu Generation selbst leistungsfähiger wird. Berichte über Clarks Warnung verbinden diese Möglichkeit mit dem Risiko einer „Intelligenzexplosion“, also einer stark beschleunigten Zunahme von KI-Fähigkeiten, sobald KI-Systeme die nachfolgenden Systeme verbessern können .

Darum gilt die Prognose als mehr als ein technischer Meilenstein. Wenn der Engpass der KI-Entwicklung nicht mehr bei menschlichen Forschungsteams liegt, sondern bei KI-Systemen, die KI-Systeme verbessern, könnte das Tempo schwerer zu beobachten und politisch zu steuern sein .

Warum Clark darin ein großes Risiko sieht

Das Kernproblem ist Aufsicht. In einem Ende-zu-Ende automatisierten F&E-Prozess gäbe es möglicherweise weniger sinnvolle Kontrollpunkte, bevor ein leistungsfähigeres Nachfolgesystem bereits existiert .

Daraus ergeben sich drei Sorgen:

• Weniger menschliche Prüfstellen. Wenn KI-Systeme genug Forschung, Training und Optimierung selbst erledigen können, bleibt Unternehmen und Forschenden womöglich weniger Zeit, Sicherheitsfragen vor der nächsten Modellgeneration zu bewerten .
• Schnellere Fähigkeitszuwächse. Clarks Warnung ist mit der Sorge verbunden, dass KI-Fortschritt sich beschleunigt, sobald KI beginnt, KI zu verbessern – eine Dynamik, die in der Berichterstattung als Risiko einer „Intelligenzexplosion“ beschrieben wird .
• Druck auf Governance. Clark schrieb, die möglichen Folgen seien groß; er sei nicht sicher, ob die Gesellschaft auf die Veränderungen vorbereitet sei, die automatisierte KI-F&E mit sich bringen würde .

Anders gesagt: Das Risiko ist nicht das Klischee einer Maschine, die in einer Werkhalle eine zweite Maschine zusammenschraubt. Es geht um eine schnellere, stärker automatisierte Produktionsschleife für Frontier-KI, die sich womöglich schneller bewegt als Sicherheitsprüfungen, Regulierung und öffentliches Verständnis .

Was weiterhin unklar ist

Clarks Zahl von über 60 % ist eine Einschätzung, kein bewiesener Befund . Besonders der Zeitplan ist umstritten.

Eine Kritik an der Prognose hält menschfreie, Ende-zu-Ende rekursive Selbstverbesserung bis 2028 für unwahrscheinlich und nennt eine eigene Schätzung von unter 10 %. Zugleich lässt diese Kritik offen, dass etwas Ähnliches über einen längeren Zeitraum bis 2036 möglich werden könnte .

Auch technisch ist die Sache nicht entschieden. Ein Bericht, der den Informatiker Pedro Domingos zitiert, betont: Die zentrale Frage sei nicht nur, ob KI Systeme erzeugen oder Software verändern kann, sondern ob daraus zuverlässig steigende Erträge entstehen. Domingos argumentiert, dass dies bislang nicht klar gezeigt worden sei .

Deshalb sollte man drei Aussagen auseinanderhalten: KI kann bei KI-Forschung helfen; KI kann den Großteil der KI-F&E automatisieren; und KI kann sich rekursiv so schnell verbessern, dass eine Intelligenzexplosion entsteht. Diese Aussagen hängen zusammen, sind aber nicht identisch . Clarks Warnung betrifft die folgenreichste Version dieser Entwicklung .

Fazit

Clark prognostiziert, dass es bis Ende 2028 wahrscheinlicher als nicht sein könnte, KI-Forschung und -Entwicklung ohne menschliche Beteiligung zu erreichen – einschließlich eines Systems, das plausibel seinen eigenen Nachfolger bauen kann .

Falls er recht behält, wäre die Gefahr nicht nur schnellere Innovation. Die größere Sorge wäre, dass die Erzeugung immer mächtigerer KI-Systeme schneller voranschreitet, als menschliche Aufsicht, Sicherheitstests und Governance nachziehen können . Die wichtigste Einschränkung: Diese Prognose bleibt umstritten, und Kritiker halten gerade den Zeitplan bis 2028 für zu aggressiv .