Zo gebruikte een scamnetwerk in Cambodja ChatGPT voor fraude op grote schaal

• het bedenken en beheren van geloofwaardige onlinepersonages;
• het schrijven en vertalen van berichten in meerdere talen;
• het maken van advertenties, socialmediaberichten en websiteteksten voor frauduleuze diensten;
• het ondersteunen van de dagelijkse organisatie, zoals interne mededelingen, vertalingen tussen medewerkers en documentatie over werving, immigratiestatus, werkomstandigheden en disciplinaire maatregelen .

De accounts werden herleid tot Poipet, een stad in de Cambodjaanse provincie Banteay Meanchey. Openbare berichtgeving van onder meer The Wall Street Journal, Amnesty International, Reuters en The Associated Press heeft Poipet herhaaldelijk in verband gebracht met online scamcomplexen en mensenhandel .

Vier fraudemodellen in één netwerk

OpenAI stelde vast dat dezelfde gecoördineerde accountgroep verschillende vormen van oplichting ondersteunde .

1. Investeringsfraude met crypto en goud

Operators gebruikten datingprofielen om eerst vertrouwen op te bouwen. Daarna brachten ze cryptovaluta of spotgoudhandel ter sprake als zogenaamd lucratieve investering. ChatGPT hielp bij het maken van valse aankoopbevestigingen en handelsinterfaces die betrouwbaar moesten lijken .

2. Romance scams

Slachtoffers kregen vaak weken- of maandenlang berichten van een fictieve geliefde. Deze methode staat internationaal bekend als ‘pig butchering’: de oplichter bouwt eerst een emotionele band op en komt pas later met een financieel verzoek.

3. Gokfraude

De fraudeurs deden zich voor als vertegenwoordigers van onlinegokplatforms. Ze lokten slachtoffers met nepbonussen en zogenaamd gewonnen bedragen, waarna zij geld moesten storten dat ze niet meer konden terugkrijgen .

4. Imitatie van opsporingsdiensten

In andere gevallen deden de operators zich voor als politie- of andere opsporingsdiensten. Slachtoffers kregen te horen dat ze een boete moesten betalen voor ernstige strafbare feiten. ChatGPT werd gebruikt voor documenten die eruit moesten zien als officiële juridische kennisgevingen, paspoorten en andere overheidsdocumenten .

Aanwijzingen voor mensenhandel en gedwongen arbeid

Een van de meest verontrustende onderdelen van het rapport is dat sommige mensen die de scams uitvoerden zelf mogelijk slachtoffer waren van uitbuiting. OpenAI beschreef verschillende signalen die passen bij mensenhandel en gedwongen arbeid, zoals die ook zijn gedocumenteerd door Amnesty International, de Verenigde Naties en andere organisaties .

• Nepvacatures voor ‘chatters’. Gebruikers maakten advertenties voor banen in Poipet waarin vluchten, huisvesting, maaltijden, visa en werkvergunningen werden beloofd. Zulke aanbiedingen kunnen worden gebruikt om buitenlandse werknemers met valse vooruitzichten naar scamcomplexen te lokken .
• Administratie over schulden en sancties. In de gegevens stonden spreadsheets met werknemersschulden, inhoudingen op salarissen, disciplinaire boetes en aflossingen. Andere gesprekken gingen over immigratiestatus, werkvergunningen, verlopen visa en wervingspremies .
• Verwijzingen naar detentie en ontsnapping. Sommige gesprekken verwezen naar vermoedelijke opsluiting, pogingen om te ontsnappen en de mogelijke strafrechtelijke gevolgen voor mensen die onder dwang in een scamcomplex werkten .
• Overeenkomst met eerdere onderzoeken. OpenAI zei dat de signalen overeenkomen met berichtgeving van The Wall Street Journal, Amnesty International, Reuters en The Associated Press over criminele groepen in Zuidoost-Azië. Die groepen zouden mensen met valse baanbeloften werven en hen vervolgens vasthouden via schulden, intimidatie en dwang .

OpenAI plaatste daarbij een belangrijke kanttekening :

“Hoewel we de omstandigheden van iedere betrokken persoon niet onafhankelijk kunnen vaststellen, herinnert deze activiteit ons eraan dat de mensen die scams uitvoeren zelf ook slachtoffer van uitbuiting kunnen zijn.”

Hoe OpenAI ingreep

De reactie van OpenAI bestond uit drie onderdelen :

1. Accounts blokkeren. Het bedrijf verbood de gecoördineerde groep ChatGPT-accounts en voerde maatregelen in om hernieuwde toegang tot zijn producten en diensten moeilijker te maken.
2. Informatie delen. OpenAI deelde relevante dreigingsindicatoren met technologiebedrijven, andere partners en bevoegde autoriteiten. Het onderzoek begon na informatie van WhatsApp .
3. De werkwijze openbaar maken. Met het rapport gaf OpenAI beveiligingsonderzoekers, andere platforms en opsporingsdiensten informatie waarmee vergelijkbare patronen kunnen worden herkend.

Hoe groot was de schade?

De totale financiële schade is niet bekend. Uit interne communicatie van de fraudeurs leidde OpenAI af dat de operatie mogelijk honderden mensen met verschillende scams heeft benaderd. Individuele slachtoffers zouden daarbij duizenden dollars zijn kwijtgeraakt .

Onderdeel van een groter Cambodjaans probleem

De zaak staat niet op zichzelf. Volgens een rapport uit 2024 van de Verenigde Naties worden naar schatting 100.000 tot 150.000 mensen — onder wie veel buitenlanders die met valse vacatures zijn gelokt — verhandeld en vastgehouden in Cambodjaanse compounds, waar zij onder uitbuitende omstandigheden online scams moeten uitvoeren . Amnesty International beschreef in 2025 meer dan vijftig scamcomplexen in Cambodja als locaties waar mensenhandel, slavernij en gedwongen arbeid zouden plaatsvinden .

OpenAI had eerder al verwante activiteiten verstoord. In februari 2025 blokkeerde het bedrijf een groep ChatGPT-accounts die volgens de analyse verband hield met een vanuit Cambodja opererend netwerk. De accounts werden gebruikt om berichten voor romantische scams te vertalen en te genereren op onder meer X, Facebook, Instagram en LINE . Een daaropvolgend onderzoek van Meta wees erop dat de activiteit afkomstig leek uit een “nieuw opgezet scamcomplex in Cambodja” .

Wat zegt deze zaak over AI-veiligheid?

De operatie laat zien hoe taalmodellen kunnen worden misbruikt door georganiseerde criminele groepen. Dezelfde technologie die wordt ingezet voor productiviteit, creativiteit en onderwijs kan ook helpen om fraude sneller, meertaliger en overtuigender uit te voeren.

De aanpak van OpenAI — accounts blokkeren, dreigingsinformatie delen en de werkwijze openbaar maken — biedt een voorbeeld van hoe AI-bedrijven kunnen reageren. Tegelijkertijd heeft zo’n ingreep duidelijke grenzen. Een accountblokkade haalt de fysieke organisatie achter de scams niet weg en bevrijdt mensen die in een compound worden vastgehouden niet. OpenAI heeft vooral een digitale ondersteuningslaag verstoord, niet noodzakelijk de criminele structuur op locatie .

Daarom zijn naast platformmaatregelen ook optreden van overheden, grensoverschrijdende opsporing en bescherming van mogelijke slachtoffers nodig.