Så använde en bluffabrik i Kambodja ChatGPT – tills OpenAI slog av nätverket

Kontona spårades till Poipet, en stad i provinsen Banteay Meanchey. Staden har i offentliga rapporter återkommande kopplats till nätbaserade bluffcenter och människohandel .

Fyra bedrägerier – samma nätverk

OpenAI identifierade minst fyra typer av bedrägerier som stöddes av det samordnade kontonätverket .

1. Investeringsbedrägerier

Operatörerna använde dejtingprofiler för att bygga förtroende innan de introducerade falska investeringsmöjligheter inom kryptovalutor och så kallad spot gold-handel, alltså handel med guld till aktuellt marknadspris. ChatGPT användes bland annat för att skapa falska bekräftelser på aktieköp och handelsgränssnitt som såg äkta ut .

2. Romansbluffar

Bedragarna förde långa romantiska samtal under påhittade identiteter. Metoden kallas ofta ”pig butchering”: offret bearbetas under veckor eller månader innan bedragaren börjar be om pengar eller presenterar en investering .

3. Falska spelplattformar

I andra upplägg utgav sig bedragarna för att representera nätbaserade spelsajter. De lockade med falska bonusar och vinster för att få offren att sätta in pengar som sedan inte gick att få tillbaka .

4. Myndighetsimitation

Bedragarna låtsades företräda brottsbekämpande myndigheter och hävdade att mottagaren måste betala böter för grova brott. ChatGPT användes för att ta fram förfalskade juridiska meddelanden, pass och andra dokument med officiellt utseende .

Tecken på människohandel och tvångsarbete

Den mest oroande delen av rapporten handlar om att personerna som utförde bedrägerierna själva kan ha varit utsatta. OpenAI beskriver flera omständigheter som är förenliga med människohandel och tvångsarbete, i linje med dokumentation från Amnesty International, FN och andra organisationer .

• Rekryteringsannonser för ”chattare”. Användare skapade annonser i sociala medier för jobb i Poipet. Annonserna lovade flygresor, boende, mat, visum och arbetstillstånd – en rekryteringsmetod som har kopplats till hur traffickingnätverk lockar utländska arbetare till bluffcenter .
• Uppgifter om skulder och tvång. I materialet förekom kalkylblad med anställdas skulder, löneavdrag, disciplinböter och återbetalningar av lån. Kommunikation handlade också om migrationsstatus, arbetstillstånd, överskridna visum och rekryteringsbonusar .
• Hänvisningar till frihetsberövande och flykt. Vissa samtal nämnde vad som verkade vara frihetsberövande, flyktförsök och risken att de utsatta själva skulle hållas straffrättsligt ansvariga för brott de tvingats begå .
• Likheter med tidigare rapportering. OpenAI sade att uppgifterna stämmer överens med rapporter från bland andra Wall Street Journal, Amnesty International, Reuters och Associated Press om kriminella grupper i Sydostasien som lockar människor med falska jobberbjudanden och sedan håller dem kvar genom skulder och tvång .

OpenAI betonade samtidigt att företaget inte självständigt kan fastställa varje individs situation. I rapporten skriver företaget att verksamheten ”påminner om att de personer som genomför bedrägerierna själva kan vara offer för exploatering” .

Så stoppade OpenAI nätverket

OpenAI:s insats bestod huvudsakligen av tre delar :

1. Avstängning av konton. Företaget bannlyste det samordnade nätverket av ChatGPT-konton och införde åtgärder för att försvåra nya försök att få tillgång till OpenAI:s produkter och tjänster.
2. Delning av underrättelser. Relevanta tekniska indikatorer och andra uppgifter delades med branschpartners och berörda myndigheter. Den första utredningsimpulsen kom från WhatsApp.
3. Offentlig rapportering. Genom att publicera detaljerna ville OpenAI ge andra plattformar, säkerhetsforskare och brottsbekämpande myndigheter möjlighet att upptäcka liknande verksamhet.

Hur många drabbades?

Den totala ekonomiska skadan är fortfarande okänd. I intern kommunikation som OpenAI granskat ska bedragarna dock ha beskrivit kontakt med hundratals personer i flera olika bedrägeriupplägg. Enskilda offer uppges ha förlorat tusentals dollar .

En del av Kambodjas större bluffekonomi

Fallet verkar inte vara isolerat. En FN-rapport från 2024 uppskattade att mellan 100 000 och 150 000 personer – många utländska medborgare som lurats av falska jobberbjudanden – kan ha utsatts för människohandel och hållits i kambodjanska anläggningar där de tvingats genomföra nätbedrägerier . Amnesty International dokumenterade 2025 mer än 50 bluffcenter i Kambodja som platser för människohandel, slaveri och tvångsarbete .

OpenAI hade även tidigare stoppat relaterad aktivitet. I februari 2025 bannlyste företaget en grupp ChatGPT-konton vars aktivitet verkade vara kopplad till en verksamhet med ursprung i Kambodja. Kontona användes för att översätta och skriva kommentarer åt ett nätverk som arbetade med romansbluffar på bland annat X, Facebook, Instagram och LINE . Meta uppgav senare att aktiviteten tycktes komma från ett ”nyligen etablerat bluffcenter i Kambodja” .

AI-stoppet löser inte det fysiska problemet

Fallet visar en central utmaning för AI-bolag: samma språkmodeller som används för arbete, kreativitet och lärande kan också effektivisera organiserad brottslighet. OpenAI:s kombination av kontoavstängningar, informationsdelning och offentlig rapportering är ett sätt att försöka komma åt problemet på flera fronter.

Men en avstängning av konton slår bara mot ett lager av verksamheten. Den fysiska organisationen bakom bluffarna finns inte nödvändigtvis kvar på samma plats eller med samma digitala identiteter. Som en branschanalys konstaterade störde OpenAI framför allt det operativa stödet – inte själva organisationen bakom bluffcentren .

Det innebär att människor som hålls kvar i sådana anläggningar fortfarande kan vara utsatta. För att bryta nätverken krävs därför mer än bättre plattformsmoderering: myndigheter, polis, teknikföretag och civilsamhälle behöver också samarbeta för att stoppa rekryteringen, identifiera traffickingoffer och slå mot de fysiska verksamheterna.