EU-Testzugang zeigt Lücke bei britischer KI-Sicherheitsaufsicht

Der berichtete Ausschluss des Vereinigten Königreichs von Vorabtests für Anthropics Claude Mythos 5.1 ist weniger ein Urteil über britische Fachkompetenz als ein Warnsignal beim Zugang: Eine staatliche Prüfstelle kann ein Frontier-Modell nicht rechtzeitig und unabhängig bewerten, wenn ihre Beteiligung letztlich vom Einverständnis des Entwicklers abhängt.

Dass die EU-Cybersicherheitsagentur ENISA nun Zugang zu Anthropics Mythos 5 und OpenAIs GPT-6 Astra hat, ist deshalb bedeutsam. Es bedeutet aber nicht, dass die EU automatisch jedes Nachfolgemodell testen darf – oder Zugang zu Mythos 5.1 hatte. 920

Entscheidend ist der Zugang zum konkreten Modell

Nach Angaben eines Sprechers der Europäischen Kommission erhielt ENISA Zugang zu Mythos 5 und GPT-6 Astra und testet beide Modelle. 9 Unabhängig davon berichteten Medien, dass Anthropic dem britischen AI Security Institute (AISI) Mythos 5.1 vor dessen Veröffentlichung nicht zur Prüfung überließ – demnach erstmals bei einem wichtigen Anthropic-Modell. 2023

Das ist keine einfache Geschichte von einem EU-Sieg und einer britischen Niederlage. Der Zugang von ENISA betrifft zwei konkret benannte Modelle und besondere Vereinbarungen. Mythos 5.1 ist ein anderes Release mit restriktiverem Zugangsmodell. Für die Sicherheitsaufsicht heißt das: Prüfzugang wird zunehmend nach Modellversion, Fähigkeiten, Einsatzzweck, Rechtsraum und Partnerkriterien des Anbieters aufgeteilt.

Warum Mythos 5.1 ein besonders schwieriger Fall ist

Anthropic beschreibt Claude Fable 5.1 und Claude Mythos 5.1 als dasselbe zugrunde liegende Modell mit unterschiedlichen Schutzvorkehrungen. Fable 5.1 ist allgemein verfügbar; Mythos 5.1 wird ausschließlich über Programme mit vertrauenswürdigen Zugangsberechtigten angeboten und ist auf Arbeiten in Cybersicherheit und Life Sciences zugeschnitten. 12

Damit geht es nicht bloß um einen gewöhnlichen Produkttest. Ein System für sensible Cyber- oder Forschungsanwendungen wirft Fragen zu kontrollierten Testumgebungen, Missbrauchsüberwachung, Sicherheitsüberprüfungen von Personal und dem Umgang mit national sicherheitsrelevanten Informationen auf. Berichten zufolge war der Zugang zu Mythos 5.1 zunächst auf überprüfte US-Organisationen beschränkt. 1824

Die vorliegenden Informationen belegen nicht, dass Anthropic das Vereinigte Königreich aus Misstrauen gegenüber dem Land oder seinem Institut ausschloss. Das Design des eingeschränkten Programms, operative Sicherheitsbedenken und die kommerzielle Kontrolle über den Zugang sind mögliche Erklärungen. Das Ergebnis bleibt dennoch relevant: Frühere Zusammenarbeit und der Ruf einer Prüfstelle garantieren keinen rechtzeitigen Zugang zu einem Modell mit potenziell weitreichenden Folgen.

Was der ENISA-Zugang über den Einfluss der EU aussagt

Die EU verfügt über eine stärkere rechtliche Grundlage als ein rein freiwilliges System. Nach Artikel 55 der EU-KI-Verordnung müssen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck und systemischem Risiko Modelle nach standardisierten Protokollen und Werkzeugen evaluieren, systemische Risiken bewerten und mindern, schwerwiegende Vorfälle dokumentieren und melden sowie ein angemessenes Cybersicherheitsniveau gewährleisten. 4337

Die Verordnung sieht zudem Modellbewertungen vor dem erstmaligen Inverkehrbringen vor, einschließlich dokumentierter adversarialer Tests – je nach Fall intern oder durch unabhängige externe Stellen. 3534

Diese Pflichten für Anbieter sind jedoch nicht gleichbedeutend mit einem generellen Anspruch von ENISA auf Modellgewichte, uneingeschränkten Systemzugang oder Vorabzugang zu jeder Frontier-Modellversion. Gerade deshalb ist die Testvereinbarung mit ENISA so bedeutsam: Sie scheint sowohl auf der Zusammenarbeit mit den Unternehmen als auch auf der breiteren regulatorischen Position der EU zu beruhen. 49

Regulierung kann der EU also helfen, Nachweise, Risikomanagement und Compliance einzufordern. Sie ersetzt aber nicht die sichere praktische Kooperation, wenn besonders sensible Cyber-, Bio- oder autonome Agentenfähigkeiten geprüft werden sollen.

Warum das Vereinigte Königreich stärker verwundbar ist

Der berichtete Ausschluss bei Mythos 5.1 legt die Grenzen freiwilliger Zugangsvereinbarungen offen. Nach Berichten löste der Vorgang Forderungen nach einer stärkeren gesetzlichen Grundlage und zusätzlichen Befugnissen für das britische AI Security Institute aus. 23

Ein freiwilliger Ansatz kann gut funktionieren, wenn KI-Labore in der Zusammenarbeit einen Nutzen sehen. Er kann schneller und technisch flexibler sein als starre Vorgaben. Sein Schwachpunkt ist die Planbarkeit: Ein Entwickler kann den Zugang beschränken, den Kreis berechtigter Partner verändern oder ein Modell einem engeren nationalen Sicherheitskanal zuordnen.

Daraus entsteht für das Vereinigte Königreich ein strategisches Risiko. Erhalten britische Evaluatoren Frontier-Systeme erst nach der Veröffentlichung – oder erst nachdem andere Regierungen und zugelassene Partner sie geprüft haben –, könnte das Land vom Mitgestalter der Sicherheitsgrundlage zum Empfänger anderswo erzeugter Erkenntnisse werden.

Ein belastbareres Modell für Großbritannien

Das unmittelbare Ziel müsste nicht die verpflichtende Herausgabe von Modellgewichten sein. Bei hochleistungsfähigen Modellen könnte dies selbst Sicherheits- und Risiken für geistiges Eigentum schaffen. Sinnvoller wäre ein Rahmen für kontrollierten und nachvollziehbaren Zugang.

Mögliche Maßnahmen wären:

1. Vorabmeldung bei festgelegten Frontier-Modellen: Entwickler müssten eine zuständige Stelle informieren, bevor sie Modelle mit definierten Fähigkeits- oder Risikoschwellen einsetzen.
2. Gesetzliche Befugnisse zur Anforderung von Nachweisen: Das AISI könnte klar geregelten Zugang zu Safety Cases, Evaluationsergebnissen, Informationen über Vorfälle und relevanter technischer Dokumentation erhalten.
3. Sichere Evaluierungsumgebungen: Statt Modellgewichte offenzulegen, könnten zeitlich begrenzte Zugänge über überwachte APIs, abgeschottete Sandboxes oder andere kontrollierte Umgebungen vorgeschrieben werden.
4. Prüfpfad für nationale Sicherheit: Bei erheblichen Cyber-, Life-Sciences- oder autonomen Agentenfähigkeiten könnte eine koordinierte Prüfung unter Einbeziehung von Cyber-, Biosicherheits-, Nachrichtendienst- und KI-Evaluierungsexpertise greifen.
5. Formalisierte EU-Kooperation: Gemeinsame Prüfprotokolle, wechselseitige sichere Testkanäle und kompatible Verfahren für schwerwiegende Vorfälle könnten Doppelarbeit verringern und das Vereinigte Königreich stärker in europäische Testnetzwerke einbinden.

Diese Vorschläge zielen auf die zentrale Schwäche des Falls: Zugang zu sicherheitsrelevanter KI sollte in die Governance eingebaut sein – und nicht vollständig von Beziehungen zu einzelnen Laboren abhängen.

Frontier-KI-Tests dürften stärker gestaffelt werden

Wahrscheinlich entsteht ein mehrstufiges Evaluierungssystem. Breit verfügbare Modelle werden vor allem Anbieterprüfungen, regulatorischer Dokumentation und Meldepflichten unterliegen. Sensiblere Fähigkeiten in Cybersicherheit, Biowissenschaften und bei autonomen Agenten werden zunehmend in restriktiven Umgebungen bewertet. Die riskantesten Systeme könnten nur einem kleinen Kreis überprüfter staatlicher, wissenschaftlicher und sicherheitsbezogener Partner zugänglich sein.

Der ENISA-Zugang und der britische Ausschluss bei Mythos 5.1 zeigen, weshalb diese Unterscheidung zählt. Der Wettbewerb dreht sich nicht mehr nur darum, wer das leistungsfähigste Modell baut. Er betrifft ebenso die Frage, wer die folgenreichsten Modellversionen prüfen, testen und regulieren darf, bevor sie breiter eingesetzt werden. 91220

Für das Vereinigte Königreich bleibt technische Evaluierungskompetenz wertvoll – sie reicht allein aber nicht aus. Um Einfluss zu behalten, braucht es verlässliche rechtliche Befugnisse im Inland und dauerhafte, sicherheitsbewusste Zugangsvereinbarungen mit Partnern im Ausland.