Anthropic berichtet über KI-gestütztes Netzwerk aus mehr als 20 Dating-Apps

Anthropic beschreibt GTG-15001 als ein in China ansässiges App-Studio, das ein Netzwerk täuschender Dating-Apps betrieben haben soll. Nach Angaben des KI-Unternehmens nutzte die Gruppe Claude, um falsche Profile zu erstellen und zu steuern – in einem Umfang, der mit menschlichen Mitarbeitenden allein kaum aufrechtzuerhalten wäre. Anthropic erklärt, die Aktivität unterbrochen zu haben. 1415

Mehr als 20 Apps, über 4.700 künstliche Profile

Laut Anthropic entwickelte und betrieb das Studio mehr als 20 Dating-Apps. Darin seien über 4.700 eigenständige KI-Personas eingesetzt worden, die sich als reale Menschen ausgaben. Innerhalb eines zweiwöchigen Zeitraums im April 2026 hätten diese Profile mit mindestens 25.000 unterschiedlichen Personen kommuniziert und etwa 2,36 Millionen Nachrichten erzeugt. 789

Gerade diese Größenordnung ist der Kern des Falls: Statt dass wenige Betrüger standardisierte Nachrichten versenden, kann KI viele parallele Gespräche führen und Antworten individuell anpassen. Das macht Beziehungs- und Romance-Scams potenziell erheblich skalierbarer, weil die vorgetäuschte Person über längere Zeit konsistent und persönlich wirken kann. 815

Menschen übernahmen offenbar besonders kritische Kontakte

Medienberichte über Anthropics Erkenntnisse zufolge kamen bei Interaktionen, bei denen Bots leichter auffliegen könnten, auch menschliche Arbeitskräfte zum Einsatz – etwa bei Video- oder Sprachanrufen. 811

Dieses Mischmodell ist entscheidend: KI kann die große Menge laufender Chats bewältigen; Menschen werden dann selektiv dort eingesetzt, wo ein glaubwürdiger persönlicher Kontakt das Vertrauen des Gegenübers stärken könnte. Die Apps seien nach den verfügbaren Quellen als vollständig menschlich beworben worden, obwohl sie überwiegend mit KI-Personas arbeiteten. 910

Details zu den Methoden sind nicht unabhängig belegt

In der ursprünglichen Schilderung des Falls wurden weitere Vorwürfe genannt: Demnach habe die Operation Skripte genutzt, um Betroffene in Gesprächen zu halten, Bots bei Prüfungen durch Apple und Google zu verbergen, sowie API-Wiederverkäufer und Proxy-Infrastruktur verwendet, um Anthropics Kontrollen zu umgehen. Zudem soll das Netzwerk auf einem Telegram-Betrug aus dem Jahr 2025 aufgebaut haben.

Diese Einzelheiten können Teil von Anthropics vollständigem Fallmaterial sein. Die vorliegenden Quellenauszüge belegen ihre konkrete technische oder operative Umsetzung jedoch nicht unabhängig. Sie sollten deshalb als Vorwürfe aus Anthropics Untersuchung verstanden werden – nicht als eigenständig verifizierte Tatsachen.

Anthropic: Operationen wurden gestoppt

Das Unternehmen erklärt, sein Threat-Intelligence-Team habe alle im Bericht behandelten Operationen identifiziert und unterbrochen. Erkenntnisse daraus seien in zusätzliche Schutzmaßnahmen eingeflossen; wo angebracht, habe Anthropic Informationen mit Behörden und anderen KI-Unternehmen geteilt. 16

Mit der Veröffentlichung solcher Analysen verfolgt Anthropic nach eigener Darstellung einen defensiven Zweck: Plattformen, Ermittlungsbehörden und Sicherheitsteams sollen typische Missbrauchsmuster besser erkennen können. 1416

Warum der Fall über Dating-Apps hinausweist

GTG-15001 ist ein Betrugsfall in einem deutlich breiteren Bericht. Dieser behandelt Aktivitäten, die Anthropic nach eigenen Angaben zwischen Dezember 2025 und August 2026 stoppte, und zwar in sieben Bereichen: Cyberoperationen, Einflussoperationen, Überwachung, Betrug, biologischer Missbrauch, Entwicklung konventioneller Waffen sowie Model-Distillation. 15

Die grundsätzliche Erkenntnis: Dieselben KI-Fähigkeiten, die bei Kundenservice, Textarbeit, Recherche und Prozessautomatisierung helfen, können auch den Arbeitsaufwand für Ansprache, Überzeugung, Inhaltserstellung und Koordination senken. Im Fall GTG-15001 zeigt sich ein besonders greifbares Risiko: Synthetische Identitäten können Tausende scheinbar persönliche Gespräche gleichzeitig führen, während menschliche Kräfte nur an strategisch wichtigen Stellen eingreifen. 115

Das bedeutet nicht, dass jede Unterhaltung auf einer Dating-App künstlich ist oder dieser Fall für alle Plattformen steht. Er macht aber deutlich, dass Nutzerinnen und Nutzer, App-Stores, KI-Anbieter und Sicherheitsverantwortliche mit einem neuen Betrugsmodell rechnen müssen: KI liefert die Reichweite, Menschen sollen punktuell die Glaubwürdigkeit erhöhen.