Wie ChatGPT zur Schaltzentrale einer Betrugsfabrik in Kambodscha wurde

Vier Betrugsmodelle, ein koordiniertes Netzwerk

OpenAI identifizierte mindestens vier Betrugsarten, die von derselben koordinierten Kontengruppe unterstützt wurden .

1. Anlagebetrug mit Kryptowährungen und Gold

Die Betreiber nutzten Dating-Profile, um zunächst Vertrauen aufzubauen. Anschließend stellten sie vermeintliche Anlagemöglichkeiten in Kryptowährungen oder am Spot-Goldmarkt vor. ChatGPT half dabei, gefälschte Kaufbestätigungen und Trading-Oberflächen zu erstellen, die seriös wirken sollten .

2. Liebesbetrug – das sogenannte „Pig Butchering“

Über Wochen oder Monate führten die Täter lange romantische Gespräche unter erfundenen Identitäten. Erst nachdem eine emotionale Bindung entstanden war, folgte die finanzielle Forderung. Diese Methode wird häufig als „Pig Butchering“ bezeichnet – ein Begriff für das systematische Anbahnen und anschließende Ausnehmen von Opfern.

3. Betrug mit angeblichen Glücksspielplattformen

In einem weiteren Szenario gaben sich die Täter als Vertreter von Online-Casinos aus. Sie versprachen angebliche Boni oder Gewinne, um ihre Opfer zu Einzahlungen zu bewegen. Das eingezahlte Geld war anschließend nicht zurückzuerlangen.

4. Falsche Behörden und gefälschte Dokumente

Die Betreiber imitierten Strafverfolgungsbehörden und behaupteten gegenüber ihren Zielen, diese müssten wegen schwerer Straftaten Geldstrafen zahlen. ChatGPT wurde dabei genutzt, um gefälschte rechtliche Schreiben, Reisepässe und andere amtlich wirkende Dokumente zu erstellen .

Hinweise auf Menschenhandel und Zwangsarbeit

Besonders brisant ist, dass die Personen hinter den Betrugsmaschen möglicherweise selbst Opfer von Ausbeutung waren. OpenAI fand mehrere Hinweise, die mit Menschenhandel und Zwangsarbeit vereinbar sind und zu Berichten von Amnesty International, den Vereinten Nationen und anderen Organisationen passen .

• Gefälschte Jobangebote: Mit ChatGPT wurden Anzeigen für sogenannte „Chatter“-Stellen in Poipet erstellt. Sie versprachen unter anderem Flüge, Unterkunft, Verpflegung, Visa und Arbeitserlaubnisse. Solche Versprechen gelten als bekannte Rekrutierungsmethode, mit der Menschen in Betrugszentren gelockt werden .
• Schulden und Zwang: Interne Tabellen erfassten offenbar Schulden von Mitarbeitenden, Gehaltsabzüge, Disziplinarstrafen und Kreditrückzahlungen. Andere Gespräche betrafen Aufenthaltsstatus, Arbeitserlaubnisse, überzogene Visa und Anreize für die Anwerbung neuer Arbeitskräfte .
• Festhalten und Flucht: In einzelnen Unterhaltungen war von mutmaßlicher Gefangenschaft, Fluchtversuchen und einer möglichen strafrechtlichen Verantwortung der Menschen die Rede, die zur Arbeit in solchen Zentren gezwungen wurden .
• Übereinstimmung mit bekannten Fällen: OpenAI verwies auf öffentliche Berichte des Wall Street Journal, von Amnesty International, Reuters und der Associated Press. Sie beschreiben kriminelle Gruppen in Südostasien, die Menschen mit falschen Jobversprechen anwerben und anschließend durch Schulden, Drohungen oder Zwang festhalten .

OpenAI schränkte zugleich ein, dass das Unternehmen die individuelle Situation jeder beteiligten Person nicht unabhängig feststellen könne. Die Aktivität erinnere jedoch daran, dass auch diejenigen, die Betrugsmaschen ausführen, selbst Opfer von Ausbeutung sein können .

So ging OpenAI gegen das Netzwerk vor

Die Maßnahmen des Unternehmens bestanden im Wesentlichen aus drei Schritten :

1. Konten sperren: OpenAI verbot die koordinierten ChatGPT-Konten und ergriff zusätzliche Maßnahmen, um eine Rückkehr der Betreiber zu seinen Produkten und Diensten zu erschweren.
2. Bedrohungsdaten teilen: Relevante technische und operative Hinweise wurden mit Branchenpartnern und zuständigen Behörden geteilt. Auslöser der Untersuchung war ein Hinweis von WhatsApp .
3. Erkenntnisse veröffentlichen: Mit dem detaillierten Bericht machte OpenAI die Vorgehensweise öffentlich, damit andere Plattformen, Sicherheitsforscher und Strafverfolger die Muster besser erkennen können.

Damit wurde vor allem die digitale Unterstützungsebene unterbrochen. Das Vorgehen beweist nicht, dass die physischen Betrugszentren selbst aufgelöst wurden. Eine Analyse kam entsprechend zu dem Schluss, dass OpenAI eine operative Schicht – nicht die dahinterstehende Organisation – gestört habe .

Wie groß war der Schaden?

Das gesamte finanzielle Ausmaß ist unbekannt. Aus internen Mitteilungen der Täter schloss OpenAI jedoch, dass das Netzwerk möglicherweise mit Hunderten Zielpersonen in Kontakt stand. Einzelne Opfer sollen dabei Tausende Dollar verloren haben .

Kein Einzelfall in Kambodscha

Die Vorgänge stehen in einem größeren Zusammenhang. Nach einem Bericht der Vereinten Nationen aus dem Jahr 2024 sollen schätzungsweise 100.000 bis 150.000 Menschen – viele davon aus dem Ausland und durch gefälschte Jobangebote angelockt – in kambodschanische Betrugszentren verschleppt und dort zu Online-Betrug gezwungen worden sein . Amnesty International dokumentierte 2025 mehr als 50 Betrugszentren im Land, die mit Menschenhandel, Sklaverei und Zwangsarbeit in Verbindung gebracht wurden .

OpenAI hatte bereits im Februar 2025 einen verwandten Aktivitätskomplex gestoppt. Damals nutzten Konten die Modelle, um Kommentare für ein internationales Romance-Baiting-Netzwerk zu übersetzen und zu erstellen – unter anderem für X, Facebook, Instagram und LINE . Eine anschließende Untersuchung von Meta deutete darauf hin, dass die Aktivität aus einem neu eingerichteten Betrugszentrum in Kambodscha stammen könnte .

Was der Fall für die KI-Sicherheit bedeutet

Der Fall zeigt, wie generative KI kriminelle Abläufe beschleunigen kann: Übersetzungen, glaubwürdige Rollen, Werbematerial, gefälschte Dokumente und interne Verwaltung lassen sich zentral und in größerem Umfang erzeugen. Dadurch können Betrugsnetzwerke mehrere Sprachen und unterschiedliche Maschen bedienen, ohne jede Aufgabe vollständig manuell erledigen zu müssen.

Kontosperren sind deshalb ein wichtiger, aber begrenzter Schritt. Sie können den Zugang zu einem KI-Dienst kappen, lösen jedoch weder die physischen Strukturen der Betrugszentren auf noch befreien sie mögliche Opfer von Menschenhandel. Dafür braucht es das Zusammenspiel von Plattformen, Ermittlungsbehörden, Regierungen und Hilfsorganisationen. OpenAIs Vorgehen – Sperren, Informationsaustausch und öffentliche Berichte – ist ein möglicher Baustein, ersetzt diese umfassendere Reaktion aber nicht.