ChatGPT blev brugt som digital motor i cambodjansk svindelnetværk

• skabe og vedligeholde falske onlineidentiteter
• skrive og oversætte beskeder til potentielle ofre på flere sprog
• producere annoncer, opslag og tekst til svindelhjemmesider
• udforme falske handelsbekræftelser og investeringsgrænseflader
• skrive interne meddelelser og oversætte mellem medarbejdere
• dokumentere rekruttering, immigrationsstatus, arbejdsforhold og disciplinære sanktioner

Kontiene kunne med stor sandsynlighed spores til Poipet i provinsen Banteay Meanchey. Byen er i offentlig rapportering fra blandt andre Wall Street Journal, Amnesty International, Reuters og Associated Press gentagne gange blevet sat i forbindelse med svindelcentre og menneskehandel .

Fire former for svindel

1. Falske investeringer i krypto og guld

Operatørerne brugte romantiske profiler til først at opbygge tillid. Derefter introducerede de ofrene for påståede investeringsmuligheder inden for kryptovaluta og såkaldt spot-guldhandel. ChatGPT blev blandt andet brugt til at skabe falske købsbekræftelser og handelsplatforme, der skulle se ægte ud .

2. Romantiksvindel

Gerningspersonerne førte lange romantiske samtaler under opdigtede identiteter. Metoden er kendt som “pig butchering”, hvor svindleren over uger eller måneder opbygger et følelsesmæssigt forhold, før der kommer en anmodning om penge eller en investering.

3. Falske gamblingtilbud

I andre tilfælde udgav operatørerne sig for at repræsentere onlinekasinoer eller gamblingplatforme. De lokkede ofrene med opdigtede bonusser og gevinster, men pengene, som ofrene indsatte, kunne ikke hæves igen .

4. Udgivelse for myndigheder

Netværket udgav sig også for at være politi eller andre retshåndhævende myndigheder. Ofrene fik at vide, at de skulle betale bøder for alvorlige lovovertrædelser. ChatGPT blev brugt til at fremstille forfalskede juridiske meddelelser, pas og andre dokumenter med et officielt udseende .

Tegn på menneskehandel og tvangsarbejde

Et af de mest alvorlige elementer i OpenAI’s rapport er, at personerne bag svindlen ikke nødvendigvis selv arbejdede frivilligt. Selskabet fandt flere tegn, der er forenelige med menneskehandel og tvangsarbejde, og som stemmer overens med dokumentation fra Amnesty International, FN og andre organisationer .

Blandt tegnene var:

• Jobannoncer rettet mod personer, der kunne blive handlet. Brugere oprettede AI-genererede annoncer på sociale medier for “chatter”-job i Poipet. Annoncerne lovede flyrejser, bolig, mad, visa og arbejdstilladelser – en kendt metode til at lokke udenlandske arbejdstagere til svindelcentre .
• Oplysninger om gæld og tvang. Netværket førte regneark over medarbejderes gæld, løntræk, disciplinære bøder og tilbagebetaling af lån. Interne samtaler handlede også om immigrationsstatus, arbejdstilladelser, overskredne visa og rekrutteringsbonusser .
• Referencer til tilbageholdelse og flugt. Nogle samtaler omtalte tilsyneladende tilbageholdelse, flugtforsøg og den mulige strafferetlige risiko for personer, der blev tvunget til at arbejde i svindelcentre .
• Sammenfald med tidligere undersøgelser. OpenAI fremhævede, at fundene passer med rapporter fra Wall Street Journal, Amnesty International, Reuters og Associated Press om kriminelle grupper i Sydøstasien, der rekrutterer folk med løfter om legitimt arbejde og derefter fastholder dem gennem gæld, trusler og tvang .

OpenAI understregede dog, at selskabet ikke selvstændigt kan fastslå forholdene for hver enkelt person:

“Selv om vi ikke uafhængigt kan fastslå omstændighederne for alle involverede, minder aktiviteten os om, at de personer, der udfører svindlen, selv kan være ofre for udnyttelse.”

Sådan forstyrrede OpenAI netværket

OpenAI’s indsats bestod primært af tre dele :

1. Lukning af konti og begrænset adgang. De koordinerede ChatGPT-konti blev bannet, og selskabet indførte foranstaltninger, der skulle forhindre operatørerne i hurtigt at oprette ny adgang.
2. Deling af efterretninger. OpenAI delte relevante indikatorer og trusselsignaler med branchepartnere og myndigheder efter det indledende spor fra WhatsApp.
3. Offentliggørelse af metoderne. Ved at offentliggøre en detaljeret rapport giver selskabet andre platforme, sikkerhedsforskere og myndigheder mulighed for at genkende lignende mønstre.

Hvor stort var tabet?

Det samlede økonomiske tab er ukendt. OpenAI skriver dog, at netværkets egne interne beskeder tyder på kontakt med hundredvis af mål på tværs af de forskellige svindeltyper. Enkelte ofre mistede ifølge kommunikationen tusindvis af dollar .

En del af en større cambodjansk svindeløkonomi

Sagen står ikke alene. En FN-rapport fra 2024 vurderede, at mellem 100.000 og 150.000 personer – mange af dem udlændinge, der var blevet lokket med falske jobtilbud – kunne være blevet handlet og holdt tilbage i cambodjanske centre, hvor de blev tvunget til at udføre onlinebedrageri . Amnesty International dokumenterede i 2025 mere end 50 svindelcentre i Cambodja, som ifølge organisationen var forbundet med menneskehandel, slaveri og tvangsarbejde .

OpenAI havde allerede i februar 2025 lukket en gruppe ChatGPT-konti med forbindelse til en operation, der så ud til at stamme fra Cambodja. Kontiene blev brugt til at oversætte og skrive kommentarer til et romantiksvindelnetværk på blandt andet X, Facebook, Instagram og LINE . En efterfølgende undersøgelse fra Meta pegede på, at aktiviteten så ud til at komme fra et “nyligt oprettet svindelcenter i Cambodja” .

AI-sikkerhed handler også om virkeligheden uden for platformen

Sagen viser, hvordan generative AI-modeller kan gøre kriminelle operationer hurtigere og mere skalerbare. Det, der tidligere krævede mange medarbejdere med sproglige og administrative færdigheder, kan i højere grad automatiseres eller standardiseres med en sprogmodel.

Men kontolukninger løser ikke hele problemet. OpenAI har fjernet et digitalt støtteled – ikke nødvendigvis den fysiske organisation bag svindlen . Personer, der holdes fanget i centrene, er fortsat sårbare, og de bagvedliggende netværk kan forsøge at flytte til andre platforme eller steder.

Derfor kræver problemet mere end bedre moderation. Det kræver samarbejde mellem teknologivirksomheder, myndigheder, politi og organisationer, der kan identificere, beskytte og hjælpe ofre for menneskehandel.