Wie Akteure laut Anthropic die Schutzmaßnahmen von Claude umgingen

Anthropic beschreibt in seinem Threat-Intelligence-Bericht vom September 2026, wie mutmaßlich staatlich verbundene und kriminelle Akteure zwischen Dezember 2025 und August 2026 versuchten, Claude zu missbrauchen. Das Unternehmen erklärte, Aktivitäten in sieben Bereichen unterbrochen zu haben: Cyberoperationen, Einflussoperationen, Überwachung, Betrug und Scams, biologischer Missbrauch, Entwicklung konventioneller Waffen sowie unerlaubte Modelldestillation. In den untersuchten Fällen kamen Claude Haiku, Sonnet und Opus vor. 16

Die entscheidende Aussage lautet nicht, dass jeder Versuch erfolgreich oder einsatzreif gewesen sei. Vielmehr zeigt der Bericht, wie KI den Aufwand für Aufklärung, Überwachung, Betrug und Cyberoperationen senken kann – und wie sich Plattformbeschränkungen durch Kontenmissbrauch umgehen lassen. Für eine mit Claude entwickelte und tatsächlich eingesetzte operative Waffe fand Anthropic nach eigenen Angaben keine Belege. 46

Wie Schutzmaßnahmen umgangen wurden

Laut Anthropic versuchten Akteure, geografische und plattformseitige Einschränkungen mit VPNs, betrügerisch angelegten Konten, kompromittierten Zugangsdaten und rotierenden Accounts zu umgehen. So konnten sie trotz der vorgesehenen Schutzmechanismen Zugang suchen. 4

Der Missbrauch betraf demnach auch das Umfeld der KI-Dienste: kompromittierte oder weiterverkaufte API-Schlüssel und Sitzungstokens sowie Webseiten, die KI-Produkte oder -Anbieter – darunter Claude Code – nachahmten, um Malware zum Diebstahl von Zugangsdaten zu verbreiten. 412

Damit wird deutlich: Die Sicherheit eines Modells entscheidet sich nicht allein daran, welche Prompts es ablehnt. Auch Kontoerstellung, Identitätsprüfung, Zahlungsbetrug, Schutz von Zugangsdaten und die Erkennung koordinierter Kontonutzung gehören zur Sicherheitsgrenze.

Die gemeldeten Missbrauchsfälle

Waffenbezogene Entwicklungsarbeit und Drohnenforschung

Anthropic beschrieb eine im Jemen ansässige Engineering-Zelle für gelenkte Waffen. Diese soll Claude bei Softwarearbeiten im Zusammenhang mit einer gelenkten Rakete, einer mehrstufigen ballistischen Rakete und einer Hyperschall-Gleitflugrakete genutzt haben. Zugleich erklärte das Unternehmen, es gebe keine Belege dafür, dass eine mit Claude entwickelte operative Waffe eingesetzt worden sei. 6

Ein weiterer, Russland zugeschriebener Akteur soll Unterstützung zu einem autonomen Schwarm von Kamikaze-Drohnen gesucht haben. Die vorliegenden Berichte beschreiben dies als versuchte KI-gestützte Entwicklungsarbeit – nicht als Nachweis eines fertiggestellten oder eingesetzten Systems. 5

Überwachung, Repression und Einflussoperationen

Der Bericht schildert zudem KI-gestützte Überwachung und Nachrichtengewinnung. In einem China zugeschriebenen Fall soll ein Ingenieur, der an einem Fallbearbeitungssystem eines kommunalen Büros für öffentliche Sicherheit arbeitete, ein Werkzeug entwickelt haben. Es sollte die Bewegungen einer Person anhand ihrer nationalen Identifikationsnummer mit Polizeidaten abgleichen. 4

Weitere Fälle betrafen demnach den Versuch eines Mali zugeschriebenen Akteurs, Kommunikation über Mobilfunkanbieter hinweg abzufangen, sowie eine iranische Operation zum Sammeln von Identitäten aus sozialen Netzwerken und zur Auswertung von mehr als 155.000 Tweets für Nachrichten- oder Einflusszwecke. Die verfügbaren Informationen stützen Anthropics Angaben zur Entdeckung dieser Aktivitäten, belegen aber nicht die tatsächliche Wirksamkeit oder operative Wirkung jeder einzelnen Kampagne. 4

Die Warnung von Anthropic: KI kann bestehende Praktiken der Überwachung und Repression günstiger, schneller und leichter skalierbar machen. Nicht zwingend, weil sie völlig neue Schäden schafft, sondern weil sie den nötigen Arbeitsaufwand und Spezialisierungsgrad reduziert. 4

Cyber-Spionage, Betrug und Modelldiebstahl

Dokumentiert wurden laut Bericht Cyberaktivitäten, die von Zugangsdaten-Diebstahl und Unterstützung bei Einbrüchen bis zu teilautonomen, KI-gestützten Angriffsabläufen reichten. Zudem beschrieb Anthropic Operationen gegen staatliche, finanzielle und kommerzielle Ziele in Asien. 4

Russland zugeschriebene Aktivitäten umfassten demnach Cyber-Spionage sowie die Offenlegung von Zugangsdaten zu einer russischen verteidigungsnahen Regierungsdatenbank durch Weiterleitung von Modellabfragen. 5

In China zugeschriebene Fällen ging es auch um Versuche, Fähigkeiten von Claude zu extrahieren oder nachzubilden – also um sogenannte Destillation. Dafür seien zahlreiche betrügerische Konten verwendet worden. Anthropic führte unerlaubte Destillation als einen der sieben untersuchten Schadensbereiche auf. 416

Was Anthropic nach eigenen Angaben unternahm

Anthropic erklärte, die identifizierten Operationen unterbrochen, zugehörige Konten gesperrt, Schutzvorkehrungen anhand der Fälle verbessert und relevante Informationen mit zuständigen Behörden sowie Industriepartnern geteilt zu haben. 4

Solche Maßnahmen können einen konkreten Zugangsweg zu einem kommerziellen Modell schließen und anderen Verteidigern hilfreiche Hinweise liefern. Sie beseitigen jedoch weder die zugrunde liegenden Werkzeuge noch die Motivation der Akteure.

Warum Kontosperren allein nicht ausreichen

Anthropic betont ausdrücklich, dass die Herausforderung über den Zugang zu Claude hinausgeht. Von einem Dienst entfernte Akteure können gestohlene Konten nutzen, zu anderen Anbietern wechseln oder Open-Source-Modelle einsetzen. 4

Der Bericht ist daher eher als Beleg für eine veränderte Bedrohungslage zu lesen als als Nachweis, dass die Sperrung einzelner Konten Missbrauch dauerhaft beendet. Durchsetzung durch Anbieter kann Missbrauch verteuern, Kampagnen sichtbar machen und legitime Nutzende schützen. Ergänzend braucht es jedoch robustere Identitätskontrollen, besseren Schutz von Zugangsdaten, koordinierten Austausch über Bedrohungen und Sicherheitsmaßnahmen, die KI-Werkzeuge über eine einzelne Plattform hinaus berücksichtigen.

Fazit

Anthropic zeichnet das Bild eines Skalierungsproblems: Akteure sollen bekannte Umgehungsmethoden wie VPNs, Fake-Konten und gestohlene Zugangsdaten genutzt haben, um allgemeine KI-Modelle für waffenbezogene Forschung, Überwachung, Einflussoperationen, Cyberaktivitäten und Betrug einzusetzen. 416

Die Maßnahmen des Unternehmens begrenzten den Zugang zu Claude in den identifizierten Fällen. Die weitergehende Warnung lautet jedoch, dass leistungsfähigere KI die Hürden für schädliche Tätigkeiten im gesamten Ökosystem senkt – während die verfügbaren Belege nicht zeigen, dass jeder gemeldete Versuch, einschließlich der waffenbezogenen Arbeit, in einem operativen Einsatz mündete. 46