Slik brukte svindelnettverket ChatGPT til å drive falske investeringer, kjærlighetssvindel og utpressing

• lage og administrere falske nettpersonligheter for romantiske henvendelser og investeringsforslag
• skrive og oversette meldinger til personer i flere land
• produsere reklame, innlegg i sosiale medier og tekst til falske nettsteder
• hjelpe med intern drift, blant annet kunngjøringer, oversettelser mellom ansatte og dokumentasjon av rekruttering, immigrasjonsstatus, arbeidsforhold og disiplinærtiltak

Sporene pekte mot Poipet, et område som gjennom flere år er blitt koblet til svindelsentre og menneskehandel i offentlig rapportering fra blant andre Wall Street Journal, Amnesty International, Reuters og Associated Press .

Fire svindelmetoder

OpenAI identifiserte minst fire typer svindel som ble støttet av det samme koordinerte kontonettverket .

1. Investeringssvindel med krypto og gull

Operatørene brukte falske datingprofiler til å bygge tillit før de introduserte ofrene for angivelige investeringer i kryptovaluta eller fysisk gullhandel. ChatGPT ble blant annet brukt til å lage falske bekreftelser på aksjekjøp og handelsgrensesnitt som skulle se ekte ut.

2. Kjærlighetssvindel

Svindlerne førte lange, romantiske samtaler under oppdiktede identiteter. Metoden er kjent som «pig butchering», der offeret gradvis bygges opp med tillit over uker eller måneder før svindleren ber om penger eller leder samtalen over på en investering.

3. Falske gamblingtilbud

Aktørene utga seg for å representere nettbaserte gamblingplattformer. De lokket med falske bonuser og gevinster, men pengene ofrene satte inn, kunne de ikke få tilbake.

4. Utgivelse for å være politi eller andre myndigheter

I andre tilfeller utga svindlerne seg for å være representanter for politiet eller andre rettshåndhevende organer. Ofrene fikk beskjed om at de måtte betale bøter for alvorlige lovbrudd. ChatGPT ble brukt til å lage forfalskede juridiske varsler, pass og andre dokumenter med et offisielt utseende.

Tegn på menneskehandel og tvangsarbeid

Det mest alvorlige i OpenAIs funn er at enkelte av personene som utførte svindelen, selv kan ha vært utsatt for utnyttelse. Materialet selskapet fant, inneholdt flere tegn som er forenlige med menneskehandel og tvangsarbeid, slik dette er dokumentert av blant andre Amnesty International og FN .

• Falske jobbannonser: Brukere laget annonser for «chatter»-jobber i Poipet. Annonsene lovet flyreise, bolig, mat, visum og arbeidstillatelse – en kjent måte å lokke utenlandske arbeidere til svindelsentre på .
• Gjeld og straff: Interne regneark skal ha registrert ansattes gjeld, lønnstrekk, disiplinærbøter og nedbetaling av lån. Samtalene omhandlet også immigrasjonsstatus, arbeidstillatelser, utgåtte visa og belønning for å rekruttere nye arbeidere .
• Fengsling og flukt: Noen samtaler inneholdt henvisninger til det som så ut som internering, fluktforsøk og mulig straffansvar for personer som var tvunget til å arbeide i svindelsentre .
• Samsvar med tidligere undersøkelser: OpenAI sier at funnene passer med rapporter fra Wall Street Journal, Amnesty International, Reuters og Associated Press om kriminelle nettverk i Sørøst-Asia. Disse nettverkene skal ha rekruttert arbeidere med løfter om lovlige jobber, for deretter å holde dem fast gjennom gjeld, press og tvang .

OpenAI understreket samtidig at selskapet ikke selv kan fastslå situasjonen til hver enkelt person:

«Selv om vi ikke uavhengig kan fastslå omstendighetene rundt hver enkelt involverte person, minner aktiviteten oss om at de som utfører svindelen, selv kan være ofre for utnyttelse.»

Hva OpenAI gjorde

Tiltakene hadde i hovedsak tre deler :

1. Stenging av kontoer: OpenAI stengte det koordinerte nettverket og innførte tiltak for å hindre aktørene i å opprette ny tilgang til selskapets produkter og tjenester.
2. Deling av etterretning: Selskapet delte relevante kjennetegn og trusselsignaler med bransjepartnere og aktuelle myndigheter. Etterforskningen startet etter et tips fra WhatsApp.
3. Offentlig rapportering: OpenAI offentliggjorde detaljer om operasjonen slik at andre plattformer, sikkerhetsforskere og politimyndigheter kan bruke erfaringene i videre arbeid.

Hvor stort var tapet?

Det samlede økonomiske tapet er ikke kjent. OpenAI skriver imidlertid at operatørenes egne interne meldinger tyder på at nettverket kan ha vært i kontakt med hundrevis av personer på tvers av svindeltypene. Enkelte ofre skal ha tapt flere tusen dollar .

En del av en større svindeløkonomi

Operasjonen ser ikke ut til å være et enkeltstående tilfelle. Ifølge en FN-rapport fra 2024 antas mellom 100 000 og 150 000 mennesker – mange av dem utenlandske statsborgere lokket med falske jobbtilbud – å ha blitt utsatt for menneskehandel og holdt i kambodsjanske anlegg der de ble tvunget til å utføre nettsvindel .

Amnesty International dokumenterte i en rapport fra 2025 mer enn 50 svindelanlegg i Kambodsja som steder knyttet til menneskehandel, slaveri og tvangsarbeid . Organisasjonen har også senere skrevet at myndighetenes aksjoner i stor grad ikke har klart å avvikle nettverkene eller beskytte ofrene .

OpenAI har tidligere stengt kontoer med forbindelse til lignende aktivitet. I februar 2025 ble en gruppe ChatGPT-kontoer blokkert etter at de ble knyttet til et kambodsjansk nettverk som brukte AI til å oversette og lage kommentarer i romantisk svindel på X, Facebook, Instagram og LINE . En påfølgende undersøkelse fra Meta tydet på at aktiviteten kom fra et «nylig etablert svindelanlegg i Kambodsja» .

AI-sikkerhet løser ikke hele problemet

Saken viser hvor enkelt språkmodeller kan bli en del av en profesjonalisert svindeloperasjon. De samme verktøyene som brukes til arbeid, læring og kreativitet, kan også hjelpe kriminelle med å skrive mer overbevisende meldinger, arbeide på flere språk og håndtere større volum.

OpenAIs kombinasjon av kontostenging, deling av trusselinformasjon og offentliggjøring er én mulig modell for hvordan AI-selskaper kan reagere. Men kontostenging alene avvikler ikke de fysiske anleggene og redder heller ikke mennesker som er fanget der. Som en bransjeanalyse påpeker, rammet OpenAI først og fremst det operative støttelaget – ikke nødvendigvis den fysiske organisasjonen bak svindelen .

Det betyr at ofrene fortsatt kan være i fare, og at problemet krever samarbeid mellom myndigheter, politi, teknologiselskaper og hjelpeorganisasjoner.