Spitzen-KI unter menschlicher Kontrolle: Was hinter der Erklärung von New York steckt

Am 21. September 2026 veröffentlichten 20 Staaten und die Europäische Union am Rande der UN-Generalversammlung in New York die Erklärung „A Call for Control of Frontier AI Models“. Ihr Ausgangspunkt: Die leistungsfähigsten KI-Modelle sollen unter menschlicher Anleitung und Aufsicht bleiben. Dafür reichen aus Sicht der Beteiligten Maßnahmen einzelner Unternehmen oder Staaten nicht aus.4612

Chancen nutzen, Risiken gemeinsam begrenzen

Der Vorstoß wurde von Finnland und Norwegen angestoßen. Finnlands Präsident Alexander Stubb und Norwegens Ministerpräsident Jonas Gahr Støre traten als Initiatoren auf.319 Singapurs Premierminister Lawrence Wong unterstützte die Erklärung mit einer doppelten Botschaft: KI biete enormes Potenzial, müsse aber stets unter menschlicher Kontrolle und Aufsicht stehen.10

Die Antwort der Unterzeichner ist damit keine pauschale Absage an die Entwicklung fortgeschrittener KI. Sie wollen vielmehr international bei der Aufsicht zusammenarbeiten, gemeinsame Sicherheitsstandards entwickeln und deren Einhaltung überprüfbar machen. Zur Debatte steht auch eine internationale Institution, die solche Standards setzen und durchsetzen könnte. Die Erklärung selbst gründet jedoch noch keine neue UN-Regulierungsbehörde.35

Was die Forderungen konkret bedeuten

Die veröffentlichte Erklärung ruft Unternehmen unter anderem zu transparenten Sicherheitsverfahren auf. Dazu zählen Tests vor dem Einsatz neuer Modelle und unabhängige Bewertungen, für die qualifizierte Prüfer ausreichenden Zugang erhalten sollen. Regierungen und regionale Organisationen sollen gemeinsame Standards besser abstimmen und die Transparenz stärken.9

Der internationale Ansatz ist wichtig, weil sehr leistungsfähige KI-Systeme Sicherheitsrisiken aufwerfen können, die sich nicht allein mit nationalen Regeln bewältigen lassen.12 Zugleich bleibt offen, ob aus dem Vorschlag für eine globale Aufsicht eine Institution mit verbindlichen Befugnissen wird. Die USA und China gehörten nicht zu den Unterzeichnern; aus den vorliegenden Quellen lässt sich nicht verlässlich ableiten, warum sie fernblieben.6

Der Kern der Erklärung: Staaten wollen die Vorteile fortgeschrittener KI nutzen, ohne die Verantwortung für ihre Sicherheit allein den Entwicklern zu überlassen. Gemeinsame Regeln und unabhängige Prüfungen sollen helfen, menschliche Kontrolle auch bei immer leistungsfähigeren Modellen zu sichern.3910