USA zwingen Anthropic, neue KI-Modelle weltweit abzuschalten

„Im Endeffekt führt diese Anordnung dazu, dass wir Fable 5 und Mythos 5 für alle unsere Kunden abrupt deaktivieren müssen, um die Vorgaben einzuhalten“, erklärte das Unternehmen in seinem offiziellen Blog und auf X . Der Zugang zu anderen KI-Modellen von Anthropic, darunter der weit verbreitete Chatbot Claude, bleibt davon unberührt .

Was das Eingreifen der Regierung auslöste

Die Sicherheitsbedenken der US-Regierung drehen sich nach Behördenangaben um sogenannte „Jailbreak“-Schwachstellen und die potenzielle Fähigkeit der Modelle, eigenständig Sicherheitslücken in Computersystemen aufzuspüren und auszunutzen . Medienberichten zufolge legte die Regierung lediglich mündliche Hinweise auf einen möglichen, eng begrenzten Jailbreak vor – im Kern eine Methode, das Modell dazu zu bringen, eine bestimmte Codebasis zu analysieren und Softwareschwachstellen zu beheben .

Möglicherweise haben Anthropics eigene, frühere Sicherheitswarnungen zu den Modellen die Alarmstimmung in Washington unbeabsichtigt verstärkt. Das Unternehmen hatte zuvor eingeräumt, dass das extrem leistungsfähige Mythos 5, das ursprünglich nur für einen eingeschränkten Nutzerkreis gedacht war, erhebliche Cybersicherheitsrisiken berge – woraufhin das Weiße Haus spezielle Schutzmaßnahmen für Bundesbehörden einrichtete, die gesonderten Zugang erhielten . Fable 5 wurde nur wenige Tage vor dem Verbot als deutlich sicherere Variante veröffentlicht und darauf trainiert, schädliche Anfragen abzulehnen. Der rasche Regierungsschritt legt jedoch nahe, dass die US-Behörden von den eingebauten Schutzmechanismen nicht überzeugt waren .

Es ist das erste Mal, dass die US-Regierung ein bestimmtes großes Sprachmodell offiziell als Bedrohung der nationalen Sicherheit einstuft und sogenannte „Deemed-Export“-Regeln anwendet, um selbst ausländischen Staatsangehörigen auf US-Boden den Zugang zu verwehren . Handelsminister Howard Lutnick übermittelte die Exportkontrollen persönlich per Schreiben an Anthropic-CEO Dario Amodei .

Der beispiellose Einschluss der eigenen Anthropic-Belegschaft

Dass die Direktive auch die Belegschaft von Anthropic selbst erfasst, macht den Vorgang so absolut. Regierungsbeamte stellten unmissverständlich klar, die Sperre gelte für „jegliche ausländische Staatsangehörige, ob innerhalb oder außerhalb der Vereinigten Staaten, einschließlich ausländischer Anthropic-Mitarbeiter“ .

Das bedeutete: Selbst Forschende und Ingenieure des „Glass Wing“-Projekts – Anthropics interner Initiative für Frontier-Sicherheit –, die nicht US-Bürger sind oder keine unbefristete Aufenthaltsgenehmigung besitzen, durften nicht mehr auf die Modelle zugreifen . Weil die Beschränkung selbst innerhalb der eigenen Firmenmauern zwingend war, konnte Anthropic nicht einfach nur externen Kunden den Zugang sperren und intern weiterentwickeln. Der einzige Weg, die Auflage zu erfüllen, war die komplette weltweite Abschaltung – zumindest so lange, bis eine technische oder juristische Lösung gefunden wird .

Diese Episode stellt eine dramatische Anwendung des US-Exportkontrollrechts auf künstliche Intelligenz dar. Fortschrittliche KI-Modelle werden hier faktisch wie Waffen oder sensible Verteidigungstechnologie behandelt. Die Deemed-Export-Regeln bedeuten, dass die Weitergabe kontrollierter Technologie an eine ausländische Person innerhalb der USA rechtlich einer Ausfuhr ins Ausland gleichgestellt ist .

Anthropics Reaktion: Von einem „Missverständnis“ ist die Rede

Anthropic befolgte die Anordnung umgehend, machte aber zugleich deutlich, dass das Unternehmen die Entscheidung der Regierung für falsch hält. „Wir glauben, dass es sich hier um ein Missverständnis handelt, und arbeiten daran, den Zugang so schnell wie möglich wiederherzustellen“, erklärte das Unternehmen in seiner öffentlichen Stellungnahme .

Der KI-Konzern betont, die von der Regierung vorgelegten Jailbreak-Hinweise seien eng begrenzt und nicht universell anwendbar. Das lege nahe, dass die Regierung die praktischen Risiken möglicherweise überschätze . Bis auf Weiteres versprach Anthropic, alle anderen Claude-Modelle am Netz zu lassen und mit den Behörden einen Weg auszuloten, Fable 5 und Mythos 5 wieder freizuschalten .

Aktuell bleibt die historische Anordnung bestehen. Die beiden leistungsfähigsten KI-Modelle, die jemals aus Gründen der nationalen Sicherheit vom öffentlichen Zugang abgeschaltet wurden, sind weiterhin offline. Wie lange das so bleibt – und welchen Präzedenzfall das für andere KI-Unternehmen schafft – wird das nächste Kapitel in der sich rasant zuspitzenden Debatte darüber sein, wer die mächtigsten KI-Systeme künftig überhaupt noch nutzen darf.