Sicherheitsrahmen für KI: Weißes Haus und Anthropic entwickeln gemeinsames Bewertungssystem für Jailbreak-Schweregrade

Am 12. Juni 2026 sandte das US-Handelsministerium eine Exportkontrollverfügung an Anthropic-CEO Dario Amodei und gab dem Unternehmen 90 Minuten Zeit, um den Zugang zu seinen beiden fortschrittlichsten KI-Modellen – Claude Fable 5 und Claude Mythos 5 – für alle ausländischen Staatsangehörigen zu sperren . Die Modelle waren erst drei Tage zuvor auf den Markt gekommen . Da eine zuverlässige Zugangsbeschränkung nur für US-Bürger technisch nicht umsetzbar war, deaktivierte Anthropic beide Modelle weltweit . Dies war das erste Mal, dass die US-Regierung ein führendes KI-Labor anwies, ein bereits eingesetztes Modell vom Markt zu nehmen – und es löste eine Kette von Ereignissen aus, die das Verhältnis zwischen Bundesregierung und KI-Industrie grundlegend neu gestaltet .

Ein Streit über die Gefährlichkeit eines Jailbreaks

Der unmittelbare Auslöser für die Exportkontrollen war ein gemeldeter Jailbreak – eine Methode, um die Sicherheitsvorkehrungen der Modelle zu umgehen. Doch beide Seiten bewerteten dessen Schwere völlig unterschiedlich.

• Anthropics Position: CEO Dario Amodei argumentierte in dringenden Telefonaten mit Beamten, der fragliche Jailbreak sei „eng begrenzt“ und „nicht universell“ – also kein systemischer Umgehungsweg, der breit ausgenutzt werden könne. Das Unternehmen erklärte öffentlich, die Regierung habe lediglich „mündliche Hinweise auf einen potenziellen engen, nicht universellen Jailbreak“ vorgelegt . „Wir waren nicht der Meinung, dass die Entdeckung eines engen, potenziellen Jailbreaks ein Grund sein sollte, ein kommerzielles Modell zurückzurufen“, schrieb Anthropic in einem Blogbeitrag .
• Position der Regierung: Das Weiße Haus betrachtete jede nachgewiesene Umgehung der Sicherheitsvorkehrungen bei einem Modell mit fortschrittlichen Cyber-Angriffsfähigkeiten – Fable 5 war unter anderem dafür entwickelt worden, Sicherheitslücken in Software zu identifizieren – als untragbares nationales Sicherheitsrisiko, insbesondere wenn die Modelle für ausländische Gegner zugänglich blieben .

Die Meinungsverschiedenheit eskalierte rasch. Mehreren Berichten zufolge setzte sich Amodei in Gesprächen mit Regierungsvertretern vehement zur Wehr, bezeichnete die Bedenken als Missverständnis und die Verhandlungen drohten zeitweise ganz zu scheitern .

Das Weiße Haus erklärte Fable 5 zum Testfall für die neuen Leitplanken einer KI-Executive-Order und stimmte sich dabei über Handelsministerium, Finanzministerium und das Weiße Haus selbst ab . Die Regierung fürchtete, die Fähigkeiten der Modelle könnten China den Zugang zu Cyber-Sicherheitswerkzeugen und anderen gefährlichen Dual-Use-Technologien ermöglichen .

Von der Konfrontation zur Verhandlung: Aufbau eines einheitlichen Compliance-Rahmens

Innerhalb weniger Tage nach der Exportkontrollkrise wechselten das Weiße Haus und Anthropic von der Konfrontation zu strukturierten Verhandlungen . Am 17. April 2026 traf Amodei zu als produktiv beschriebenen Waffenstillstandsgesprächen mit Vertretern des Weißen Hauses zusammen – der erste Kontakt auf Führungsebene seit früheren Spannungen zwischen Anthropic und dem Pentagon .

Zu den Schlüsselfiguren der anschließenden Gespräche auf hoher Ebene gehören US-Handelsminister Howard Lutnick, der Nationale Cyber-Direktor Sean Cairncross und Anthropic-Mitbegründer Tom Brown . Die Regierung koordinierte sich für den Testfall Fable 5 über Handelsministerium, Finanzministerium und das Weiße Haus hinweg .

Das zentrale Projekt, das aus diesen Gesprächen hervorgeht, ist ein einheitlicher Compliance-Rahmen zur Bewertung des Schweregrads von Sicherheitslücken – insbesondere Jailbreaks – in hochmodernen KI-Modellen . Das Rahmenwerk soll gemeinsame Maßstäbe dafür schaffen, ob ein Sicherheitsmangel ein staatliches Eingreifen rechtfertigt .

Das einheitliche Bewertungssystem: Drei Kriterien

Kern des Vorhabens ist ein einheitliches Bewertungssystem für Jailbreaks. Obwohl keine offiziellen Bezeichnungen (z. B. „kritisch“, „hoch“, „mittel“, „niedrig“) oder ein detailliertes Bewertungsschema veröffentlicht wurden, bewertet das Rahmenwerk Sicherheitslücken Berichten zufolge anhand von drei Risikobewertungskriterien :

1. Umgangene Schutzmaßnahmen – Welche Sicherheitsvorkehrungen (z. B. konstitutionelle Klassifikatoren, Echtzeitfilter) wurden überwunden.
2. Freigelegte Fähigkeiten – Welche gefährlichen Modellfähigkeiten (z. B. Cyber-Angriff, biologische Anleitung, chemische Synthese) wurden zugänglich.
3. Realweltliche Auswirkungen – Wie leicht ließe sich der Jailbreak in großem Maßstab ausnutzen und welcher Schaden könnte entstehen.

Das Ziel der Regierung ist es, mit diesem Bewertungssystem klare, vorab definierte Risikoschwellen festzulegen, die automatisch bestimmen, ob Exportkontrollen verhängt, Abhilfemaßnahmen erforderlich oder Veröffentlichungen blockiert werden – anstatt erst im Nachhinein ad hoc zu handeln .

Das strategische Ziel der Regierung: Vom reaktiven zum regelbasierten Handeln

Das übergeordnete Ziel der Regierung ist es, von reaktiven, krisengetriebenen Eingriffen zu einem regelbasierten System überzugehen . Durch die gemeinsame Entwicklung des Bewertungsrahmens und der Risikoschwellen mit Anthropic will das Weiße Haus:

• Planbarkeit für KI-Labore schaffen, welche Maßnahmen staatliches Handeln auslösen.
• Eine gemeinsame Terminologie zur Beschreibung des Schweregrads von Sicherheitslücken etablieren.
• Zukünftige Szenarien vermeiden, in denen ein Modell öffentlich eingesetzt und dann abrupt unter Exportkontrollen gestellt wird – wie bei Fable 5 und Mythos 5 geschehen.

Wesentliche Ungewissheit: Es wurden keine detaillierten Kriterien, der Geltungsbereich oder ein Zeitplan für das Rahmenwerk veröffentlicht. Die drei Risikobewertungskriterien (umgangene Schutzmaßnahmen, freigelegte Fähigkeiten, realweltliche Auswirkungen) wurden von mehreren Medien gemeldet, die spezifische Bewertungsmethodik ist jedoch nicht bekannt .

Der breitere G7-Kontext

Die Entwicklung des US-Anthropic-Rahmenwerks findet vor dem Hintergrund der G7-Diskussionen über KI-Sicherheitsstandards statt. Die G7 arbeitet an der Harmonisierung internationaler Maßstäbe zur Bewertung von Risiken durch hochmoderne KI . Es wird erwartet, dass das einheitliche Bewertungssystem, das das Weiße Haus und Anthropic entwickeln, diese breiteren multilateralen Gespräche beeinflussen und von ihnen beeinflusst wird – auch wenn konkrete G7-Ergebnisse noch in der Verhandlung sind .

Was als Nächstes kommt

Die Entwicklung des Rahmenwerks markiert eine bedeutende Wende in der US-KI-Politik. Nur wenige Tage vor den Exportkontrollen hatte Amodei in einem politischen Essay argumentiert, dass Regierungen die gesetzliche Befugnis haben sollten, die Veröffentlichung von hochmodernen KI-Modellen zu blockieren oder rückgängig zu machen, wenn sie die unabhängige Sicherheitsprüfung nicht bestehen . Die Krise vom 12. Juni setzte dieses Prinzip auf unerwartet konfrontative Weise auf die Probe.

Die zentrale Frage, die offen bleibt: Wie definiert man die Grenze zwischen einer engen, beherrschbaren Sicherheitslücke und einem systemischen Risiko, das ein staatliches Eingreifen rechtfertigt? Die Antwort wird nicht nur die künftigen Veröffentlichungen von Anthropic prägen, sondern auch die gesamte Regulierungslandschaft für die Entwicklung hochmoderner KI.