Eine Warnung aus Seattle, ein Anruf im Weißen Haus: Wie Amazons CEO das spektakuläre KI-Verbot ins Rollen brachte

Dem Bericht zufolge hatten Amazon-Forscher eine Reihe von Prompts auf Anthropics neu veröffentlichtes Modell Fable 5 angewendet und erfolgreich Informationen extrahiert, die zur Unterstützung von Cyberangriffen genutzt werden könnten – Material, das die Sicherheitsvorkehrungen des Modells explizit sperren sollten . Es handelte sich nicht um einen oberflächlichen Fehler; Quellen charakterisierten den Vorfall als eine echte Sicherheitsumgehung, die potenziell gefährliche Fähigkeiten offenlegte .

Jassys Entscheidung, diese Bedenken direkt auf höchster Regierungsebene vorzubringen, bereitete den Boden für eine dramatische bundesstaatliche Intervention. Als Investor von Anthropic wurde Amazons Schritt von einigen als verantwortungsvoller Akt des „Red-Teaming“ gesehen, von anderen als komplexes, vielleicht sogar wettbewerbsgetriebenes Manöver eines Tech-Giganten, der seinen Partner sowohl unterstützt als auch mit ihm konkurriert .

Der beispiellose Hammer der Regierung: Ein Exportverbot

Jassys Gespräch löste nicht nur eine Überprüfung aus; es entfachte eine sofortige Exportkontrollmaßnahme. Die Trump-Regierung kam zu dem Schluss, dass Anthropics Modelle ein ausreichendes Risiko für die nationale Sicherheit darstellten, um sofortige Exportbeschränkungen zu rechtfertigen. Am Abend des Freitags, dem 12. Juni, sandte Handelsminister Howard Lutnick einen Brief an Anthropic-CEO Dario Amodei, der Fable 5 und Mythos 5 formell unter Exportbeschränkungen stellte .

Die Anweisung war umfassend. Sie setzte jeglichen Zugriff auf die Modelle durch ausländische Staatsangehörige aus – ob innerhalb oder außerhalb der Vereinigten Staaten. Diese Definition schloss sogar die eigenen ausländischen Mitarbeiter von Anthropic mit ein . Das brachte das Unternehmen in eine unmögliche Lage.

Da Anthropic ausländische und inländische Nutzer nicht in Echtzeit zuverlässig unterscheiden konnte, um die eng gefasste rechtliche Anordnung zu erfüllen, traf das Unternehmen eine drastische Entscheidung. Um die vollständige Einhaltung zu gewährleisten, deaktivierte es Fable 5 und Mythos 5 abrupt für alle Nutzer weltweit, exakt um 17:21 Uhr Eastern Time . Modelle, die nur 72 Stunden zuvor am 9. Juni gestartet waren, gingen für alle vom Netz .

Ein Kampf der Narrative: Die Reaktionen von Amazon, Anthropic und David Sacks

Es folgte ein heftiger öffentlicher Streit über das Ausmaß der Bedrohung und die Angemessenheit der staatlichen Reaktion.

Amazons strategisches Schweigen

Amazon dementierte den WSJ-Bericht nicht öffentlich. Zwar gab das Unternehmen keine formelle Erklärung zu Jassys Gesprächen ab, doch seine von Quellen zitierte Haltung war die eines verantwortungsvollen Handelns, indem es die Behörden auf eine echte, bei internen Sicherheitsforschungen entdeckte Schwachstelle hingewiesen habe . Diese Darstellung präsentierte Amazon als gutgläubigen Sicherheitsforscher, auch wenn die Rolle als Hauptinvestor von Anthropic der Optik eine zusätzliche Komplexität verlieh.

Anthropics Widerspruch: Kleine Mängel, keine Katastrophe

Anthropic widersprach umgehend sowohl der Substanz als auch dem Ausmaß der staatlichen Maßnahme. In einer öffentlichen Erklärung bestätigte das Unternehmen die Anweisung, nannte sie aber ein „Missverständnis“ . Das Unternehmen räumte ein, die spezifische Jailbreak-Technik überprüft zu haben, charakterisierte die Ergebnisse jedoch als extrem geringfügig. Anthropic gab an, die Methode habe nur „eine kleine Anzahl zuvor bekannter, kleinerer Schwachstellen“ identifiziert und argumentierte, dass andere öffentlich verfügbare Modelle, einschließlich OpenAIs GPT-5.5, in der Lage seien, ähnliche Mängel zu finden .

Das Unternehmen widersetzte sich energisch dem Präzedenzfall mit der Aussage: „Wir sind nicht der Meinung, dass die Entdeckung eines begrenzten potenziellen Jailbreaks ein Grund sein sollte, ein kommerzielles Modell, das für Hunderte Millionen Menschen bereitgestellt wurde, zurückzurufen“ .

David Sacks erhebt schwere Vorwürfe: Weigerung zur Fehlerbehebung

Die Darstellung der Regierung war jedoch eine völlig andere. Der frühere KI- und Krypto-Beauftragte des Weißen Hauses, David Sacks, jetzt Co-Vorsitzender des President's Council of Advisors on Science and Technology, legte einen detaillierten öffentlichen Bericht vor, der die Schuld klar bei den Führungskräften von Anthropic sucht.

Sacks erklärte, ein „höchst glaubwürdiger, vertrauenswürdiger Partner sowohl von Anthropic als auch der US-Regierung“ – womit allgemein Amazon angenommen wird – habe einen Jailbreak entdeckt, mit dem sich die Schutzmaßnahmen von Fable 5 aushebeln ließen, um die vollen, gefährlicheren Fähigkeiten des zugrunde liegenden Mythos-Modells offenzulegen . Laut Sacks stellte die Regierung Anthropic-CEO Dario Amodei daraufhin vor eine klare Wahl: entweder die Schwachstelle beheben oder das Modell deaktivieren .

Sacks behauptete, Amodei habe beide Optionen abgelehnt. „Die Regierung hat Dario gebeten, den Jailbreak zu reparieren oder das Modell zurückzuziehen. Dario lehnte ab“, so Sacks. Er fügte hinzu, dass die Exportkontrolle eine notwendige und „widerwillig“ angewandte Maßnahme war, um ein Risiko zu managen, das das Unternehmen nicht angehen wollte . Sacks warf Anthropic zudem Bösgläubigkeit vor und kritisierte das Unternehmen dafür, Mythos zuvor als Cybersicherheits-Superwaffe angepriesen zu haben, die reguliert werden müsse, nur um Bedenken abzutun, als genau diese Fähigkeiten als gefährdet galten .

Dieser Zusammenprall der Darstellungen – ein Unternehmen, das sich als Opfer einer staatlichen Überreaktion auf einen kleinen Fehler sieht, gegen einen Spitzenbeamten, der die Weigerung, ein echtes Risiko von waffenfähigem Ausmaß zu beheben, anprangert – markiert die bislang bedeutendste Auseinandersetzung um KI-Politik. Das Weiße Haus betonte, das Verbot sei eine vorübergehende Maßnahme, die aufgehoben werden könne, wenn Anthropic die Sicherheitslücke behebe .