Wie sich ein globales KI-Sicherheitssystem unabhängig überprüfen ließe

Ein Sicherheitssiegel allein schafft noch kein Vertrauen in KI. Entscheidend ist, ob unabhängige Fachleute die zugrunde liegenden Schutzmaßnahmen prüfen können – und ob Behörden Konsequenzen ziehen, wenn die Nachweise nicht ausreichen. Singapurs Ministerin Josephine Teo zieht dafür eine Parallele zur Luftfahrt: Erst viele ineinandergreifende Vorkehrungen hätten dort die verlässliche Nutzung ermöglicht. Mit der zunehmenden Verbreitung von KI brauche es einen eigenen Ansatz. 36

Von der Luftfahrt lernen – ohne sie zu kopieren

Internationale Luftfahrtregeln entstanden schrittweise. Zunächst galten nationale Gesetze und bilaterale Abkommen. Auf die Pariser Konvention von 1919 folgte 1944 das Chicagoer Abkommen; 1947 nahm die Internationale Zivilluftfahrtorganisation ICAO ihre Arbeit auf. 313935 Für KI heißt das nicht, das Luftfahrtrecht zu übernehmen. Die Lehre ist vielmehr, mit praktikablen Vereinbarungen zu beginnen und sie auf Grundlage gemeinsamer Erfahrungen auszubauen.

Eine internationale Stelle könnte Mindeststandards entwickeln, Prüfstellen anerkennen und Daten über Sicherheitsvorfälle vergleichen. Nationale Aufsichtsbehörden müssten zugleich befugt bleiben, Systeme zu untersuchen, Änderungen zu verlangen, ihren Einsatz zu beschränken und Sanktionen zu verhängen. Ein internationales Zertifikat dürfte die Durchsetzung vor Ort nicht ersetzen.

Auch eine Prüfung vor der Einführung wäre nur der Anfang. Nötig wären die laufende Überwachung im Betrieb, neue Bewertungen nach wesentlichen Änderungen sowie Pläne, ein System zurückzusetzen oder außer Betrieb zu nehmen. Jede Freigabe müsste klar benennen, welche Version in welchem Einsatzbereich geprüft wurde.

Sicherheitsversprechen in überprüfbare Nachweise verwandeln

Ein veröffentlichter Testergebniswert oder ein Prüfsiegel sagt wenig darüber aus, ob ein System im konkreten Einsatz sicher genug ist. Anerkannte, unabhängige Prüfstellen bräuchten geschützten Zugang zum relevanten Modell, zu seiner Einsatzkonfiguration, zur Dokumentation und zu Aufzeichnungen über erhebliche Fehler. Methoden und Ergebnisse müssten so festgehalten werden, dass andere qualifizierte Prüfer sie hinterfragen können. Zugriffsregeln müssten dabei personenbezogene Daten, Geschäftsgeheimnisse und sicherheitsrelevante Informationen schützen.

Für besonders riskante Systeme ließe sich ein belegter Sicherheitsnachweis verlangen: Was darf das System tun? Wie wurde es getestet? Welche Schutzmaßnahmen haben sich bewährt, welche Risiken bleiben und was geschieht bei einem Vorfall? Reicht die Beweislage nicht aus, müsste die zuständige Behörde Nachbesserungen verlangen oder den Einsatz begrenzen können. Das Ziel ist nachprüfbare Einhaltung festgelegter Anforderungen – nicht die unmögliche Garantie, dass niemals ein Schaden entsteht.

Zur Unabhängigkeit gehört auch die Finanzierung. Große Entwickler könnten in einen gemeinsamen oder behördlich verwalteten Prüffonds einzahlen, statt ihre Prüfer unmittelbar auszuwählen und zu bezahlen. Untersuchungen schwerer Fehler und Beinahe-Vorfälle sollten vor allem helfen, Wiederholungen zu verhindern. Geschützte Meldungen können Offenheit fördern; Vertuschung oder Fehlverhalten dürfen sie nicht entschuldigen.

Singapurs mögliche Rolle – und die Grenzen eines neutralen Standorts

Teo plädiert dafür, Schutzmaßnahmen parallel zur KI-Nutzung aufzubauen. Berichte nennen das Testwerkzeug AI Verify und Singapurs AI Safety Institute als Grundlagen der dortigen Arbeit an KI-Tests und Sicherheitsnachweisen. 13 Singapur könnte gemeinsame Prüfungen oder vertrauliche technische Gespräche ausrichten – als Teil eines Netzwerks anerkannter Prüflabore.

Ein Standort wäre aber nicht automatisch für die USA und China gleichermaßen vertrauenswürdig. Dafür bräuchte es transparente Leitung, sichere Zugangsregeln, unabhängige Beschwerdewege und die tatsächliche Beteiligung beider Länder. Ein verteiltes Netzwerk würde zudem verhindern, dass alles von einem einzigen Prüfzentrum abhängt.

Mit gemeinsamen Risiken beginnen, nicht mit einem Streit über das Entwicklungstempo

Über das Tempo der KI-Entwicklung besteht keine Einigkeit. Laut Reuters fordern Dario Amodei, Sam Altman und Elon Musk eine koordinierte Verlangsamung. Mark Zuckerberg bevorzugt eher marktgetragene Schutzmaßnahmen, während Jensen Huang zusätzliche Regulierung für unnötig hält. 4748 China hat Forderungen nach einer Verlangsamung zurückgewiesen. US-Präsident Donald Trump sagte, er erwarte von seinem Gipfel mit Xi Jinping am 24. September keine Fortschritte bei KI-Leitplanken; auch die Berichterstattung zum Treffen dämpfte die Erwartungen an einen größeren Durchbruch. 585049

Trotzdem könnten Staaten bei Gefahren ansetzen, die beide Seiten vermeiden wollen. US-amerikanische und chinesische Sicherheitsexperten haben laut Berichten rote Linien für den Umgang mit nuklearen Systemen, menschliche Kontrolle über folgenschwere Cyberangriffe und eine direkte Kontaktmöglichkeit für Vorfälle mit autonomer KI vorgeschlagen. 20 Daraus könnten Vereinbarungen über Notfallkontakte, Meldungen schwerer Zwischenfälle und gegenseitige technische Gespräche entstehen. Die USA und China wären dafür wichtig – andere Staaten müssten jedoch an der Festlegung von Standards beteiligt sein und Zugang zu Prüfkapazitäten erhalten.

Verpflichtungen nach Risiko staffeln

Aus der Rüstungskontrolle lässt sich ein Grundsatz übernehmen: Gegenseitige Zusagen sollten eng genug gefasst sein, um ihre Einhaltung prüfen zu können. Ein künftiger KI-Vertrag könnte eine ständige Stelle für Koordination und die Überprüfung der Umsetzung schaffen, während sich technische Testmethoden weiterentwickeln. Weder Atomverträge noch die ICAO liefern dafür eine fertige Vorlage.

Die Finanzaufsicht bietet einen zweiten Gedanken: Besonders strenge Pflichten gehören dorthin, wo Fehler große Folgen haben können. Anbieter und Betreiber besonders riskanter Systeme könnten zu unabhängigen Prüfungen, klarer Verantwortung der Leitung, Wiederherstellungsplänen und raschen Meldungen schwerer Sicherheitsmängel, erheblicher Datenabflüsse, Hackerangriffe oder Modelldiebstähle verpflichtet werden. Kleine Unternehmen mit risikoarmen Angeboten könnten gemeinsame Testinfrastruktur und einfachere Dokumentationspflichten nutzen. Ein gefährliches System wird allerdings nicht dadurch harmlos, dass sein Anbieter klein ist.

Ein Vertrag samt ständiger internationaler Institution bis 2030 wäre ein ambitioniertes politisches Ziel, keine belastbare Prognose. Ein überzeugenderer erster Maßstab ist, ob Staaten sich auf Definitionen für Vorfälle, die Unabhängigkeit von Prüfstellen und gegenseitige Schutzmaßnahmen einigen – und ob Aufsichtsbehörden tatsächlich handeln können, wenn die Nachweise fehlen.