Kambodžassa toiminut huijausverkosto käytti ChatGPT:tä petosten teolliseen skaalaamiseen

• Valehenkilöiden luomiseen ja ylläpitämiseen: uskottavia identiteettejä rakennettiin romanssihuijauksia ja sijoitushuijauksia varten.
• Viestien kirjoittamiseen ja kääntämiseen: yhteydenpitoa voitiin käydä useilla kielillä eri maiden kohteiden kanssa.
• Petollisen markkinointimateriaalin tuottamiseen: tekoälyllä laadittiin esimerkiksi sosiaalisen median mainoksia ja verkkosivutekstejä.
• Sisäiseen operointiin: ChatGPT:tä käytettiin tiedotteiden luonnosteluun, työntekijöiden väliseen kääntämiseen sekä rekrytointiin, maahanmuuttostatukseen, työoloihin ja kurinpitotoimiin liittyvien tietojen dokumentointiin .

Tilien toiminta yhdistettiin Poipetiin, Banteay Meancheyn maakunnassa sijaitsevaan kaupunkiin. Wall Street Journalin, Amnesty Internationalin, Reutersin ja Associated Pressin aiemmissa selvityksissä Poipet on yhdistetty verkkohuijauskeskuksiin ja ihmiskauppaan .

Verkoston neljä huijausmallia

OpenAI tunnisti saman koordinoidun tiliverkoston tukeneen ainakin neljää erilaista petostyyppiä .

1. Sijoituspetokset: kryptovaluutat ja spot-kulta

Toimijat käyttivät deittailuun perustuvia valehenkilöitä luottamuksen rakentamiseen. Kun yhteys uhriin oli syntynyt, keskustelu ohjattiin tekaistuihin kryptovaluutta- ja spot-kultasijoituksiin. ChatGPT:tä käytettiin myös uskottavilta näyttävien osakeostovahvistusten ja kaupankäyntinäkymien tuottamiseen .

2. Romanssihuijaukset

Huijarit kävivät pitkiä romanttisia keskusteluja kuvitteellisilla identiteeteillä. Menetelmää kutsutaan usein nimellä pig butchering: uhrin luottamusta rakennetaan viikkojen tai kuukausien ajan, minkä jälkeen hänelle esitetään taloudellinen pyyntö tai sijoitustarjous .

3. Uhkapelihuijaukset

Toimijat esiintyivät verkossa toimivien rahapelisivustojen edustajina ja tarjosivat tekaistuja bonuksia tai voittoja. Uhri houkuteltiin tallettamaan rahaa, jota ei todellisuudessa voinut saada takaisin .

4. Viranomaisten teeskentely

Huijarit esiintyivät lainvalvontaviranomaisina ja väittivät uhrin joutuneen maksamaan sakon vakavasta rikoksesta. ChatGPT:tä käytettiin tekaistujen juridisten ilmoitusten, passien ja muiden virallisilta näyttävien asiakirjojen laatimiseen .

Aineistossa viitteitä ihmiskaupasta ja pakkotyöstä

OpenAI:n raportin huolestuttavin osa koski sitä, että huijauksia toteuttaneet ihmiset saattoivat itse olla hyväksikäytön uhreja. Yhtiön kuvaamat havainnot ovat yhdenmukaisia Amnesty Internationalin, YK:n ja muiden järjestöjen raportoimien ihmiskaupan ja pakkotyön piirteiden kanssa .

• Tekoälyllä laaditut työpaikkailmoitukset: käyttäjät tekivät sosiaaliseen mediaan ilmoituksia Poipetissa tarjolla olevista ”chatter”-töistä. Niissä luvattiin lennot, majoitus, ateriat, viisumit ja työlupa. Tällaisia lupauksia on käytetty rekrytointikeinona, jolla ulkomaalaisia houkutellaan huijauskeskuksiin .
• Työntekijöiden velkojen ja rangaistusten seuranta: aineistossa oli taulukoita työntekijöiden veloista, palkkavähennyksistä, kurinpitosakoista ja lainojen takaisinmaksusta. Sisäisissä viesteissä käsiteltiin myös oleskelulupia, työlupia, viisumien ylityksiä ja rekrytointikannustimia .
• Viittaukset pidätyksiin ja pakoyrityksiin: joissakin keskusteluissa mainittiin ilmeisiä pidätyksiä, pakoyrityksiä ja mahdollisia rikosoikeudellisia seurauksia ihmisille, jotka oli pakotettu työskentelemään huijauskeskuksissa .
• Yhteys laajempaan raportointiin: OpenAI:n mukaan havainnot sopivat yhteen Wall Street Journalin, Amnesty Internationalin, Reutersin ja Associated Pressin selvitysten kanssa. Niissä on kuvattu Kaakkois-Aasiassa toimivia rikollisryhmiä, jotka houkuttelevat työntekijöitä tekaistuilla työpaikkalupauksilla ja vangitsevat heidät velkasidonnaisuuteen ja pakottamiseen .

OpenAI korosti raportissaan:

”Vaikka emme voi itsenäisesti määrittää jokaisen mukana olleen henkilön olosuhteita, toiminta muistuttaa siitä, että huijauksia toteuttavat ihmiset voivat itsekin olla hyväksikäytön uhreja.”

Miten OpenAI keskeytti toiminnan?

OpenAI:n toimet perustuivat kolmeen pääkeinoon :

1. Tilien sulkeminen ja pääsyn estäminen. Yhtiö sulki koordinoidun ChatGPT-tiliverkoston ja otti käyttöön toimia, joilla sen jäsenten on vaikeampi palata palveluihin uusilla tileillä.
2. Uhkatiedon jakaminen. OpenAI jakoi asiaankuuluvia tunnistetietoja alan kumppaneille ja viranomaisille. Tutkinta käynnistyi WhatsAppilta saadun vihjeen perusteella.
3. Julkinen raportointi. Yhtiö julkaisi yksityiskohtaisen selvityksen, jotta muut alustat, tietoturvatutkijat ja lainvalvontaviranomaiset voivat hyödyntää havaintoja.

Kuinka laajaa vahinko oli?

Taloudellisten tappioiden kokonaismäärä ei ole tiedossa. OpenAI kuitenkin kertoi huijareiden omiin sisäisiin viesteihin perustuen, että verkosto saattoi olla yhteydessä satoihin kohteisiin eri huijausmalleissa. Yksittäiset uhrit menettivät tuhansia dollareita .

Kambodžan huijausteollisuus on laajempi ilmiö

Kyse ei vaikuta olevan yksittäistapauksesta. YK:n vuoden 2024 raportin mukaan arviolta 100 000–150 000 ihmistä, monet heistä tekaistuilla työpaikkalupauksilla houkuteltuja ulkomaalaisia, on joutunut ihmiskaupan kohteeksi ja pidätetyksi kambodžalaisiin keskuksiin, joissa heidät on pakotettu verkkohuijauksiin .

Amnesty Internationalin vuoden 2025 raportissa dokumentoitiin yli 50 huijauskeskusta eri puolilla Kambodžaa. Järjestön mukaan niissä esiintyi ihmiskauppaa, orjuutta ja pakkotyötä .

OpenAI on aiemminkin puuttunut Kambodžaan yhdistettyyn toimintaan. Helmikuussa 2025 yhtiö sulki ChatGPT-tilejä, joiden toiminta vaikutti liittyvän romanssihuijausverkostoon. Tilejä käytettiin kommenttien kääntämiseen ja tuottamiseen X:ssä, Facebookissa, Instagramissa ja LINE-palvelussa . Metan myöhemmän tutkinnan perusteella toiminta näytti olevan peräisin ”äskettäin perustetusta huijauskeskuksesta Kambodžassa” .

Tekoäly katkaisi yhden kerroksen – ei koko rikollisrakennetta

Tapaus osoittaa, miten sama kielimalli voi palvella sekä laillista työtä että järjestäytynyttä rikollisuutta. Tekoäly ei tässä tapauksessa välttämättä luonut huijausmallia, mutta se auttoi tekemään valehenkilöistä, monikielisestä viestinnästä, markkinoinnista ja sisäisestä koordinoinnista nopeampaa ja helpommin skaalautuvaa.

OpenAI:n tilisulut, tiedon jakaminen ja julkinen raportointi muodostavat yhden mallin siihen, miten tekoäly-yhtiöt voivat torjua väärinkäyttöä. Samalla tilien sulkeminen ei pura fyysisiä huijauskeskuksia eikä vapauta ihmiskaupan uhreja. Kuten yksi tapausta arvioinut analyysi totesi, OpenAI katkaisi toiminnan tukikerroksen – ei huijausten takana olevaa fyysistä organisaatiota .

Siksi ongelman ratkaiseminen vaatii teknologiayhtiöiden lisäksi viranomaisia, lainvalvontaa ja kansalaisjärjestöjä. Huijausten uhrit on saatava suojaan, ja samalla on tunnistettava myös ne ihmiset, jotka on pakotettu toimimaan huijausverkostojen palveluksessa.