Claude-Missbrauch: Warum Anthropics Bericht über mehr als einzelne Sicherheitsverstöße hinausgeht

Anthropics am 10. September 2026 veröffentlichter Threat-Intelligence-Bericht beschreibt Vorgänge, die das Unternehmen nach eigenen Angaben innerhalb von acht Monaten – von Dezember 2025 bis August 2026 – erkannt und unterbunden hat. Betroffen waren Versuche, Claude Haiku, Sonnet und Opus für Cyberoperationen, Einflussoperationen, Überwachung, Betrug, biologischen Missbrauch, die Entwicklung konventioneller Waffen und unerlaubte Modelldestillation einzusetzen. 16

Entscheidend ist die Einordnung: Der Bericht dokumentiert Versuche, KI-Unterstützung zu nutzen, nicht den bestätigten Einsatz oder Erfolg der mutmaßlich geplanten Waffen-, Überwachungs- oder Biologieprojekte. Anthropic präsentiert die Fälle zudem ausdrücklich als ausgewählte Beispiele, nicht als repräsentatives Bild der üblichen Claude-Nutzung. 16

Was der Bericht offenlegt

Die zentrale Warnung lautet: Fortgeschrittene Modelle können den Bedarf an Spezialwissen, Personal und Zeit für schädliche Vorhaben senken. In den offengelegten Fällen sollen Akteure die KI unter anderem für Recherche, Softwareentwicklung, Zielmaterial und operative Analysen eingesetzt haben. 116

Versuche im Umfeld von Waffen und Überwachung

Zu den schwerwiegendsten Vorwürfen gehören Versuche, Claude bei Arbeiten zu konventionellen Waffen und Überwachung einzusetzen. Die Berichterstattung über die Offenlegung nennt Vorhaben im Zusammenhang mit Software für autonome Einweg-Angriffsdrohnen, Raketen-Navigationssystemen und militärischen Anwendungen von Akteuren mit Verbindungen zu Russland, Iran, China und Jemen. 1

Das Fallmaterial umfasst außerdem mutmaßliche Bemühungen, Uiguren über WhatsApp und Telegram zu identifizieren und ins Visier zu nehmen, sowie ein groß angelegtes Telekommunikations-Überwachungssystem in Mali. Die Beispiele verdeutlichen den grundsätzlichen Punkt: Sprachmodelle können nicht nur beim Programmieren helfen, sondern auch bei Recherche, Klassifizierung, Analyse und der Erstellung operativer Unterlagen. 116

Biologischer Missbrauch

Anthropic identifizierte fünf Fälle biologischen Missbrauchs. Einer davon stand laut Berichterstattung im Zusammenhang mit dem Versuch, die Übertragbarkeit eines durch Mücken verbreiteten Virus zu erhöhen. 1

Das Unternehmen erklärte zudem, einige Nutzer hätten nach abgelehnten sensiblen Anfragen auf konkurrierende KI-Systeme ausgewichen. Das belegt nicht, dass diese Versuche bei anderen Anbietern erfolgreich waren. Es zeigt aber eine Grenze anbieterbezogener Schutzmaßnahmen: Eine Verweigerung kann einen Vorgang auf einer Plattform stoppen, verhindert aber nicht automatisch die Suche nach Alternativen. 1

Kampagnen zur Modelldestillation

Ein eigener Abschnitt behandelt die unerlaubte Modelldestillation: Dabei werden Ausgaben eines leistungsfähigeren Modells genutzt, um ein anderes System zu trainieren. Anthropic ordnete solche Kampagnen sieben in China ansässigen Laboren zu, darunter Alibaba, Moonshot und DeepSeek. Beschrieben werden viele Konten und weitergeleitete Anfragen, mit denen nutzbare Modellausgaben oder Schlussfolgerungen beschafft werden sollten. 1

Diese Form des Missbrauchs unterscheidet sich von Waffen- oder Überwachungsfällen. Für KI-Entwickler ist sie dennoch strategisch relevant, weil Modellzugang genutzt werden kann, um Fähigkeiten nachzubilden und die Kosten einer eigenständigen Entwicklung teilweise zu umgehen.

Welche Claude-Modelle waren betroffen?

Laut Anthropic betrafen die berichteten Fälle Claude Haiku, Sonnet und Opus. Die neueren Modellklassen Fable und Mythos kamen demnach nicht vor – mit einer Ausnahme: einem Fall der Modelldestillation. 1216

Damit wäre die pauschale Aussage, Fable und Mythos seien im gesamten Bericht überhaupt nicht erwähnt, zu weitgehend. Die verfügbare Evidenz stützt die engere Aussage: Abgesehen von der Distillations-Ausnahme wurden sie in den offengelegten Missbrauchsfällen nicht eingesetzt. 12

Reaktion von Anthropic – und Grenzen der Beweislage

Anthropic teilte mit, die Operationen gestört, die betreffenden Konten gesperrt, Schutzmaßnahmen verstärkt und Informationen, soweit angebracht, mit Behörden und Branchenpartnern geteilt zu haben. 16

Gleichzeitig bleibt der Bericht eine Unternehmensdarstellung von Vorgängen, die auf der eigenen Plattform beobachtet wurden. Er ist ein wichtiger Hinweis darauf, was Anthropic erkannt und bearbeitet hat. Er ist aber keine unabhängige Bestätigung dafür, dass jeder mutmaßliche Akteur sein Vorhaben vollenden konnte. Auch Anthropic selbst rahmt die Veröffentlichung als Sammlung bemerkenswerter Fälle, nicht als statistisch repräsentative Untersuchung sämtlichen Missbrauchs. 16

Warum daraus die Forderung entstand, die KI-Spitze zu „takten“

Zwei Tage nach dem Bericht veröffentlichte Anthropic-CEO Dario Amodei den Beitrag We Must Pace the Frontier. Darin argumentiert er, KI-Unternehmen sollten das Tempo, mit dem sie die Fähigkeiten von Spitzenmodellen verbessern, bewusst drosseln. Sicherheitsforschung, Schutzvorkehrungen und Überprüfungen müssten mit der Entwicklung Schritt halten können. 25

Amodei fordert keinen Stopp des Modelltrainings. Als ersten konkreten Schritt sagte Anthropic zu, externen Prüfern dauerhaft Zugang zu seinen Systemen auf Mitarbeiterebene zu geben. Diese sollen Sicherheitspraktiken bewerten, Vorfälle melden und die Ausrichtung der Modelle während des Trainings beurteilen können. 1825

Sein umfassenderer Drei-Stufen-Plan sieht Aufsicht auf Unternehmensebene vor, anschließend Koordination zwischen Firmen in demokratischen Ländern und langfristig breitere internationale Abstimmung. 2325

Was feststeht – und was nicht

Der Bericht belegt, dass Anthropic nach eigenen Angaben im genannten Zeitraum versuchten schädlichen Einsatz älterer Claude-Modelle in sieben Risikobereichen erkannt und unterbunden hat. Er liefert zugleich eine konkrete Begründung für die Position des Unternehmens, Schutzmaßnahmen müssten parallel zu wachsenden Modellfähigkeiten weiterentwickelt werden. 16

Nicht belegt ist dagegen, dass der Bericht unmittelbar bestimmte Schritte des US-Kongresses ausgelöst, eine Sitzungspause des Repräsentantenhauses beendet oder ein konkretes gesetzliches Verbot von „Superintelligenz“ hervorgebracht hätte. Zwar wächst der politische Druck für KI-Sicherheitsaufsicht, und Amodei fordert staatliche Regeln, die Fähigkeiten und Sicherheit im Gleichgewicht halten. Für solche konkreten Kausalbehauptungen reicht das vorliegende Material aber nicht aus. 2527

Die praktische Konsequenz ist weniger spektakulär, aber weitreichend: KI-Missbrauch lässt sich nicht allein durch das Ablehnen gefährlicher Prompts verhindern. Nötig sind die Erkennung koordinierter Angriffe, Reaktionen auf Kontoausweichungen und Distillationsversuche, der Austausch von Bedrohungsinformationen sowie glaubwürdige Sicherheitsprüfungen, während die Modelle leistungsfähiger werden. 1625