Frontier-KI: Was hinter den Plänen für gemeinsame Sicherheitsstandards steckt

Berichte deuten auf eine echte Annäherung zwischen Anthropic, OpenAI und Google DeepMind hin: Besonders leistungsfähige KI-Modelle sollen vor ihrer Veröffentlichung nicht nur durch die Entwickler selbst geprüft werden. Nicht belegt ist dagegen, dass die Unternehmen bereits eine gemeinsame Regulierungsbehörde gegründet oder sich auf verbindliche Tests, Einsichtsrechte, Freigabeschwellen und Sanktionen geeinigt haben. 811

Der Unterschied ist entscheidend: Ein gemeinsames Bekenntnis zu Sicherheitsprüfungen ist noch keine Institution, die Regeln durchsetzen kann.

Was konkret vorgeschlagen wird

Seit Juli 2026 sollen die Unternehmen auf Arbeitsebene über ein branchengetragenes Standardisierungsgremium für sogenannte Frontier-KI sprechen – also Modelle an der technologischen Leistungsspitze. Im Mittelpunkt steht offenbar ein gemeinsames Verfahren, um gefährliche Fähigkeiten vor der öffentlichen Bereitstellung zu bewerten. Genannt werden vor allem Risiken bei Cyberangriffen, biologischem Missbrauch, Täuschung und anderen Formen folgenschweren Missbrauchs. 811

Das bislang deutlichste institutionelle Modell stammt von Google-DeepMind-Chef Demis Hassabis. Er schlug eine von den USA geführte Frontier AI Standards Body vor, orientiert an FINRA, der Selbstregulierungsorganisation der US-Finanzbranche. Das Gremium wäre von der Industrie finanziert, stünde aber unter staatlicher Aufsicht und sollte Frontier-Modelle vor ihrer Veröffentlichung testen. Zunächst wären Einreichungen freiwillig; erst nach einer erprobten Bewertungsmethode könnte die Prüfung zur Voraussetzung für einen Einsatz werden. 9

Offen sind jedoch gerade die Fragen, die aus einer Absichtserklärung ein belastbares Kontrollsystem machen würden:

• Welche Modelle müssten überhaupt geprüft werden?
• Welche technischen Tests wären verpflichtend?
• Wie weit reichte der Zugang externer Prüfer zu den Systemen?
• Welche Ergebnisse würden einen Start verhindern, verzögern oder an Auflagen knüpfen?
• Wer finanziert und kontrolliert das Gremium?
• Wie wird die Unabhängigkeit der Prüfer von den bewerteten Unternehmen gesichert?
• Welche Rolle hätten Behörden und rechtliche Schutzmechanismen?

Solange diese Punkte ungeklärt sind, wäre es überzogen, bereits von einer einsatzfähigen gemeinsamen Aufsichtsbehörde zu sprechen.

Der gemeinsame Nenner: Prüfung vor dem Start

Am deutlichsten ist die Übereinstimmung bei der unabhängigen Prüfung vor der Veröffentlichung. Axios berichtete im Juli, Dario Amodei, Sam Altman und Demis Hassabis unterstützten grundsätzlich eine externe Kontrolle von Frontier-Modellen, bevor diese die Öffentlichkeit erreichen – statt sich vor allem auf Selbstauskünfte der Unternehmen zu verlassen. 8

Das ist mehr als eine Formalie. Sicherheitsbewertungen sind nur dann glaubwürdig, wenn unabhängige Stellen Ergebnisse nachvollziehen oder infrage stellen können. Dafür bräuchte es klar definierte Tests, ausreichenden Systemzugang und festgelegte Folgen, wenn ein Modell eine Risikoschwelle überschreitet.

Alle drei Unternehmen behandeln das Thema zudem als internationale Aufgabe. Dahinter steht ein strategisches Dilemma: Einseitige Beschränkungen in den USA wären politisch schwer durchzusetzen, wenn konkurrierende Entwickler im Ausland keinen vergleichbaren Regeln unterliegen. Hassabis’ Ansatz ist ausdrücklich US-geführt; Amodei argumentiert, nationale Schutzvorkehrungen allein reichten bei weltweit einsetzbaren Systemen nicht aus. 91

Wo die Vorstellungen auseinandergehen

Hinter der gemeinsamen Sicherheitsrhetorik steht eine grundlegende Governance-Frage: Geht es vor allem um ein freiwilliges Branchenmodell, ein staatlich gestütztes System oder um einen Regulierer mit echten Eingriffsbefugnissen?

DeepMinds Modell wäre von der Industrie finanziert und föderal beaufsichtigt. Es sieht zunächst eine freiwillige Phase vor und lässt offen, ob eine Prüfung später zur Voraussetzung für die Bereitstellung wird. 9

Amodeis Vorschlag setzt auf fest in den Frontier-Laboren arbeitende, unabhängige Prüfer mit einem Zugang ähnlich dem von Beschäftigten. Zudem sollen KI-Unternehmen in demokratischen Staaten gemeinsame Standards mit staatlicher Unterstützung koordinieren, wo dies nötig ist. 12

Berichte über die Arbeitsgruppengespräche beschreiben OpenAI als offen für branchengetriebene Schritte, statt auf ein vollständiges staatliches Regelwerk zu warten. Sam Altman unterstützte nach Amodeis Essay außerdem unabhängige Prüfer mit arbeitnehmerähnlichem Zugang. 11

Das sind keine bloßen Detailunterschiede. Freiwillige Regeln lassen sich schnell einführen und können gemeinsame technische Verfahren etablieren. Ohne unabhängige Leitung und öffentliche Autorität können sie aber womöglich weder Zugang erzwingen noch Interessenkonflikte wirksam begrenzen oder einen Modellstart nach einem negativen Sicherheitsbefund stoppen.

Das Frontier Model Forum ist kein Beweis für einen neuen Regulierer

Mit dem Frontier Model Forum gibt es bereits ein Branchenforum großer KI-Unternehmen. Nach eigenen Angaben soll es Sicherheitsforschung fördern, Tests und Best Practices entwickeln sowie den Austausch mit Politik und Industrie verbessern.

Das macht das Forum zu einem möglichen Ort für Abstimmung. Es belegt aber nicht, dass bereits ein neues unabhängiges Gremium gegründet wurde oder dass unternehmensübergreifende Audits verbindlich wären. Entscheidend wäre, ob eine Organisation nur Leitlinien formuliert – oder Modelle tatsächlich unabhängig bewertet und relevante Bedingungen für ihre Veröffentlichung durchsetzen kann.

Warum Amodeis Essay die Debatte zugespitzt hat

Am 12. September veröffentlichte Anthropic-Chef Dario Amodei den rund 3.800 Wörter langen Essay We Must Pace the Frontier. Darin forderte er, die Zuwächse bei KI-Fähigkeiten zu verlangsamen, damit Sicherheitsvorkehrungen mithalten können. 52

Amodei warnte, binnen sechs bis zwölf Monaten könnte ein leistungsfähigerer automatisierter Schwarm von KI-Agenten womöglich das Internet übernehmen. Das ist eine Prognose und Risikowarnung – kein nachgewiesenes technisches Ergebnis. 513

Sein Ansatz besteht aus drei Teilen:

1. Unabhängige Prüfer in Frontier-Laboren einsetzen, mit Zugang ähnlich dem von Mitarbeitenden, um Systeme zu testen, Sicherheitslücken zu finden und die Einhaltung von Regeln zu bewerten. 12
2. Gemeinsame Sicherheitsstandards und Grenzen unter KI-Unternehmen in demokratischen Staaten koordinieren, gegebenenfalls mit staatlicher Unterstützung. 216
3. Eine breitere internationale Abstimmung anstreben, auch mit autoritären Regierungen, weil fortgeschrittene Modelle und ihre Risiken global einsetzbar sind. 115

Anthropic erklärte, externen Prüfern dauerhaft Zugang auf Mitarbeitendenniveau zu geben. Das wäre mehr als ein einmaliger externer Test. Wie glaubwürdig das Versprechen in der Praxis ist, hängt jedoch davon ab, wer die Prüfer auswählt, was sie einsehen dürfen, ob sie Ergebnisse veröffentlichen können und was bei einem inakzeptablen Risiko geschieht. 122

Die entscheidende Frage: Wer kontrolliert die Kontrolleure?

Der zentrale Einwand von Kritikern liegt auf der Hand: Die Unternehmen, die um die leistungsfähigsten Systeme konkurrieren, könnten zugleich an den Regeln für diese Systeme mitwirken, sie verwalten und auslegen.

Glaubwürdiger wäre ein Sicherheitsgremium mit unabhängiger technischer Leitung, transparenten Bewertungsmethoden, Schutz vor Einflussnahme durch Unternehmen, substanzieller staatlicher Aufsicht und klaren Befugnissen nach einem negativen Prüfergebnis. Gemeinsame Standards könnten auch ohne diese Eigenschaften nützlich sein – blieben aber hinter unabhängiger Rechenschaftspflicht zurück.

Der AI Safety Index des Future of Life Institute vom Sommer 2026 erklärt, warum diese Skepsis anhält: Anthropic erhielt die Note C+, OpenAI C und Google DeepMind C. Kein bewertetes Labor kam über C+ hinaus. 17

US-Senator Bernie Sanders hielt ein bloßes Verlangsamen deshalb für unzureichend. Er forderte eine Pause bei der Entwicklung fortgeschrittener KI und ein Verbot künstlicher Superintelligenz. Das ist deutlich restriktiver als die Vorschläge der Labore, macht aber die Lücke zwischen freiwilliger Zurückhaltung und durchsetzbaren Grenzen sichtbar.

Worauf es jetzt ankommt

Aussagekräftig wären nun keine weiteren Grundsatzbekenntnisse, sondern konkrete institutionelle Schritte:

• eine veröffentlichte Satzung und Governance-Struktur;
• namentlich benannte, unabhängige Prüfer;
• standardisierte Tests für Fähigkeiten und Missbrauchsrisiken;
• klare Regeln für Audit-Zugang und Offenlegung;
• Schwellenwerte für Freigaben und Vorgaben zur Nachbesserung;
• eine eindeutige Antwort darauf, ob ein Sicherheitsbefund eine Veröffentlichung verzögern oder verhindern kann.

Derzeit lässt sich daher nur vorsichtig festhalten: Große Frontier-KI-Labore sprechen über gemeinsame Sicherheitsinfrastruktur und befürworten zunehmend externe Tests. Ob daraus ein unabhängiges, durchsetzungsfähiges Standardisierungsgremium wird oder lediglich ein freiwilliges Branchenforum, ist weiter offen. 8911