Der Auslöser: Amazon-CEO Andy Jassy und der Fable-5-Jailbreak

Das Verbot wurde von Amazon-CEO Andy Jassy in Gang gesetzt, der Berichten zufolge Gespräche mit Finanzminister Scott Bessent und anderen US-Beamten geführt hat . Laut dem Wall Street Journal hatten Amazons Cybersicherheitsforscher entdeckt, dass Fable 5 manipuliert („gejailbreakt“) werden konnte, um Informationen zur Herstellung von Biowaffen zu erhalten – eine Erkenntnis, die Jassy persönlich an hochrangige Regierungsbeamte weitergab . Das Wall Street Journal berichtet, dass Jassys Gespräche mit US-Beamten das harte Durchgreifen der Regierung auslösten . Anthropic-CEO Dario Amodei widersprach und argumentierte, der Jailbreak sei „nicht schwerwiegend“ und die Schutzmaßnahmen des Modells seien ausreichend, doch die Regierung teilte diese Ansicht nicht und setzte die Anordnung durch .

Großbritannien und Kanada drängen auf Ausnahmen

Das Verbot gilt selbst für verbündete Nationen und löste sofortigen diplomatischen Widerstand aus.

• Großbritannien: Downing Street drängt im Weißen Haus auf eine Sonderausnahmegenehmigung von dem Verbot, das britischen Nutzern über Nacht den Zugang entzog . Premierminister Keir Starmer setzt sich persönlich im Vorfeld des G7-Gipfels, der am 15. Juni in Frankreich begann, dafür ein, wo das Anthropic-Verbot voraussichtlich die Diskussionen dominieren wird . Das Vereinigte Königreich argumentiert, dass seine Five-Eyes-Geheimdienstpartnerschaft und die enge Zusammenarbeit mit den USA im Bereich KI-Sicherheit eine Ausnahme rechtfertigen .

• Kanada: Auch Premierminister Mark Carney hat auf eine Ausnahmegenehmigung gedrängt und stimmt sich mit Starmer über eine gemeinsame britisch-kanadische Position ab, einschließlich der Wiederaufnahme von Handelsgesprächen, um die Wirtschaftsbeziehungen außerhalb des US-amerikanischen Einflussbereichs zu stärken .

Mark Carneys Warnungen: Systemrisiko und technologische Abhängigkeit

Bei einem Auftritt in Westport, Irland, am 14. Juni äußerte Carney deutliche Warnungen:

• „Niemand hat analysiert, was passiert, wenn eine kleine Anzahl von KI-Modellen auf die gleiche Weise und zur gleichen Zeit versagt.“ Er zog ausdrücklich eine Parallele zwischen der KI-Konzentration und dem Systemrisiko, das zur Finanzkrise 2008 führte, und warnte vor einem „Modellrisiko“ in der KI .
• Er sagte, das Verbot unterstreiche das Risiko einer übermäßigen Abhängigkeit von einer Hand voll mächtiger US-KI-Tools und merkte an: „Die Situation, in der wir uns gerade kollektiv mit Mythos und Fable befinden, kann bei einer übermäßigen Abhängigkeit von einem einzelnen Anbieter oder einer Gruppe von Anbietern eintreten“ .
• Dies war Teil eines umfassenderen Vorstoßes von Carney: Nur wenige Tage zuvor, am 4. Juni, hatte er gewarnt, dass ausländische KI-Plattformen gegen Kanadier eingesetzt werden können, und den Aufbau nationaler KI-Kapazitäten gefordert .

Widerstand der EU gegen diskriminierende Beschränkungen

Die Europäische Union reagierte scharf; Beamte erklärten, das Verbot unterstreiche die dringende Notwendigkeit „technologischer Souveränität“ für den Block . Die EU argumentiert, dass ein pauschales Verbot für alle ausländischen Staatsangehörigen – einschließlich der EU-Mitgliedstaaten – diskriminierend und kontraproduktiv sei und dem Geist der Zusammenarbeit unter Verbündeten im Bereich der KI-Sicherheit widerspreche . Das Verbot wurde als „Weckruf“ beschrieben, der Europas Bestreben nach einer eigenständigen KI-Entwicklung beschleunigt .

Weitergehende Implikationen für KI-Governance und Technologiesouveränität

• Globaler Wettlauf um KI-Souveränität: Die Anordnung hat aus einer abstrakten politischen Befürchtung eine akute Krise gemacht und in ganz Europa und Kanada die Alarmglocken hinsichtlich der Abhängigkeit von einer US-kontrollierten KI-Infrastruktur schrillen lassen .
• Debatte um US-Wettbewerbsfähigkeit: Kritiker argumentieren, das Verbot könne der US-amerikanischen KI-Führungsrolle schaden, indem es Verbündete dazu treibt, konkurrierende Systeme aufzubauen, und modernste Werkzeuge von den globalen Märkten nimmt, auf denen US-Firmen dominieren .
• Rechtliches und operatives Chaos: Da die Anordnung für „jeden ausländischen Staatsangehörigen“ galt, konnte Anthropic praktisch nicht Folge leisten, ohne eine vollständige Abschaltung vorzunehmen. Dies wirft die Frage auf, ob das Exportkontrollrecht für das Zeitalter global verteilter KI-Modelle geeignet ist .
• Brennpunkt G7: Das Verbot wird den G7-Gipfel, der am 15. Juni in Frankreich beginnt, dominieren. Es wird erwartet, dass Starmer, Carney und EU-Spitzenvertreter die US-Delegation mit dem Umfang der Beschränkungen konfrontieren und einen koordinierten Rahmen der Verbündeten für die Governance von Frontier-KI fordern .
• Nächste Schritte von Anthropic: Anthropic soll sich am 15. Juni mit der Trump-Administration treffen, um den Streit zu erörtern und möglicherweise eine eng gefasste, technisch durchsetzbare Beschränkung auszuhandeln, die den Zugang für Verbündete erlaubt und gleichzeitig nationale Sicherheitsbedenken ausräumt .

Der Auslöser: Amazon-CEO Andy Jassy und der Fable-5-Jailbreak

Das Verbot wurde von Amazon-CEO Andy Jassy in Gang gesetzt, der Berichten zufolge Gespräche mit Finanzminister Scott Bessent und anderen US-Beamten geführt hat . Laut dem Wall Street Journal hatten Amazons Cybersicherheitsforscher entdeckt, dass Fable 5 manipuliert („gejailbreakt“) werden konnte, um Informationen zur Herstellung von Biowaffen zu erhalten – eine Erkenntnis, die Jassy persönlich an hochrangige Regierungsbeamte weitergab . Das Wall Street Journal berichtet, dass Jassys Gespräche mit US-Beamten das harte Durchgreifen der Regierung auslösten . Anthropic-CEO Dario Amodei widersprach und argumentierte, der Jailbreak sei „nicht schwerwiegend“ und die Schutzmaßnahmen des Modells seien ausreichend, doch die Regierung teilte diese Ansicht nicht und setzte die Anordnung durch .

Großbritannien und Kanada drängen auf Ausnahmen

Das Verbot gilt selbst für verbündete Nationen und löste sofortigen diplomatischen Widerstand aus.

• Großbritannien: Downing Street drängt im Weißen Haus auf eine Sonderausnahmegenehmigung von dem Verbot, das britischen Nutzern über Nacht den Zugang entzog . Premierminister Keir Starmer setzt sich persönlich im Vorfeld des G7-Gipfels, der am 15. Juni in Frankreich begann, dafür ein, wo das Anthropic-Verbot voraussichtlich die Diskussionen dominieren wird . Das Vereinigte Königreich argumentiert, dass seine Five-Eyes-Geheimdienstpartnerschaft und die enge Zusammenarbeit mit den USA im Bereich KI-Sicherheit eine Ausnahme rechtfertigen .

• Kanada: Auch Premierminister Mark Carney hat auf eine Ausnahmegenehmigung gedrängt und stimmt sich mit Starmer über eine gemeinsame britisch-kanadische Position ab, einschließlich der Wiederaufnahme von Handelsgesprächen, um die Wirtschaftsbeziehungen außerhalb des US-amerikanischen Einflussbereichs zu stärken .

Mark Carneys Warnungen: Systemrisiko und technologische Abhängigkeit

Bei einem Auftritt in Westport, Irland, am 14. Juni äußerte Carney deutliche Warnungen:

• „Niemand hat analysiert, was passiert, wenn eine kleine Anzahl von KI-Modellen auf die gleiche Weise und zur gleichen Zeit versagt.“ Er zog ausdrücklich eine Parallele zwischen der KI-Konzentration und dem Systemrisiko, das zur Finanzkrise 2008 führte, und warnte vor einem „Modellrisiko“ in der KI .
• Er sagte, das Verbot unterstreiche das Risiko einer übermäßigen Abhängigkeit von einer Hand voll mächtiger US-KI-Tools und merkte an: „Die Situation, in der wir uns gerade kollektiv mit Mythos und Fable befinden, kann bei einer übermäßigen Abhängigkeit von einem einzelnen Anbieter oder einer Gruppe von Anbietern eintreten“ .
• Dies war Teil eines umfassenderen Vorstoßes von Carney: Nur wenige Tage zuvor, am 4. Juni, hatte er gewarnt, dass ausländische KI-Plattformen gegen Kanadier eingesetzt werden können, und den Aufbau nationaler KI-Kapazitäten gefordert .

Widerstand der EU gegen diskriminierende Beschränkungen

Die Europäische Union reagierte scharf; Beamte erklärten, das Verbot unterstreiche die dringende Notwendigkeit „technologischer Souveränität“ für den Block . Die EU argumentiert, dass ein pauschales Verbot für alle ausländischen Staatsangehörigen – einschließlich der EU-Mitgliedstaaten – diskriminierend und kontraproduktiv sei und dem Geist der Zusammenarbeit unter Verbündeten im Bereich der KI-Sicherheit widerspreche . Das Verbot wurde als „Weckruf“ beschrieben, der Europas Bestreben nach einer eigenständigen KI-Entwicklung beschleunigt .

Weitergehende Implikationen für KI-Governance und Technologiesouveränität

• Globaler Wettlauf um KI-Souveränität: Die Anordnung hat aus einer abstrakten politischen Befürchtung eine akute Krise gemacht und in ganz Europa und Kanada die Alarmglocken hinsichtlich der Abhängigkeit von einer US-kontrollierten KI-Infrastruktur schrillen lassen .
• Debatte um US-Wettbewerbsfähigkeit: Kritiker argumentieren, das Verbot könne der US-amerikanischen KI-Führungsrolle schaden, indem es Verbündete dazu treibt, konkurrierende Systeme aufzubauen, und modernste Werkzeuge von den globalen Märkten nimmt, auf denen US-Firmen dominieren .
• Rechtliches und operatives Chaos: Da die Anordnung für „jeden ausländischen Staatsangehörigen“ galt, konnte Anthropic praktisch nicht Folge leisten, ohne eine vollständige Abschaltung vorzunehmen. Dies wirft die Frage auf, ob das Exportkontrollrecht für das Zeitalter global verteilter KI-Modelle geeignet ist .
• Brennpunkt G7: Das Verbot wird den G7-Gipfel, der am 15. Juni in Frankreich beginnt, dominieren. Es wird erwartet, dass Starmer, Carney und EU-Spitzenvertreter die US-Delegation mit dem Umfang der Beschränkungen konfrontieren und einen koordinierten Rahmen der Verbündeten für die Governance von Frontier-KI fordern .
• Nächste Schritte von Anthropic: Anthropic soll sich am 15. Juni mit der Trump-Administration treffen, um den Streit zu erörtern und möglicherweise eine eng gefasste, technisch durchsetzbare Beschränkung auszuhandeln, die den Zugang für Verbündete erlaubt und gleichzeitig nationale Sicherheitsbedenken ausräumt .