Avslørt: Slik brukte «Outsider Enterprise» Googles Gemini AI til en massiv svindeloperasjon

Slik utnyttet de Googles Gemini AI

Søksmålet beskriver hvordan Gemini ble et sentralt verktøy i den kriminelle verdikjeden på to avgjørende måter:

• Automatisert generering av falske nettsider: Verktøysettet brukte Gemini til å produsere HTML-koden for phishing-sider som etterlignet alt fra banker og tollvesen til leveringstjenester og Googles egne innloggingssider . KI-en sørget for at sidene så profesjonelle og overbevisende ut i stor skala.
• Omgåelse av sikkerhetsmekanismer: Operatørene lurte Geminis innebygde filter mot misbruk ved å formulere forespørslene som harmløse oppgaver. For eksempel kunne de be KI-en om å «generere en HTML-side for en pakkeleveringsmelding» i stedet for å eksplisitt be om en phishing-side .

Ved å automatisere nettsideproduksjonen fjernet Outsider behovet for teknisk kompetanse og gjorde det mulig å drive svindel i en industriell målestokk. Googles klage hevder at nettverket utplasserte over 1 million falske nettsteder og sendte mer enn 2 millioner svindel-SMS-er til amerikanske mobilbrukere .

Slik var gruppen organisert

Etterforskningen og søksmålet tegner et bilde av en sofistikert, nærmest bedriftslignende organisasjon med minst fem spesialiserte avdelinger :

Denne arbeidsdelingen, kombinert med KI-drevet automatisering, gjorde at Outsider Enterprise kunne operere med en skala og effektivitet som er typisk for et vanlig programvareselskap, ikke en tradisjonell kriminell bande .

De større konsekvensene av KI-drevet svindel

• «Demokratisering» av cyberkriminalitet – Ved å bygge KI inn i et billig og brukervennlig verktøy, ga Outsider personer uten kunnskap om koding muligheten til å lansere sofistikerte phishing-kampanjer. Dette markerer et skifte fra målrettet hacking til kommersialisert, KI-drevet svindel-som-en-tjeneste .
• Historisk rettslig skritt – Dette er Googles første søksmål spesifikt knyttet til misbruk av deres generative KI-produkter . Det signaliserer at teknologiselskaper nå er villige til å gå rettens vei for å stanse den kriminelle leverandørkjeden, ikke bare blokkere misbruk teknisk.
• Ny modell for offentlig-privat samarbeid – Google samarbeidet med FBI og teleoperatører som AT&T, T-Mobile og Verizon. Dette viser at bekjempelse av KI-drevet svindel krever koordinert innsats fra KI-leverandører, telekomselskaper og politimyndigheter .
• Behov for oppdatert lovverk – Google benyttet anledningen til å etterlyse oppdaterte lover som spesifikt kriminaliserer misbruk av generativ KI til svindel, et område dagens lovverk kanskje ikke dekker godt nok .

Viktig presisering: Søksmålet er en sivil klage, ikke en fellende dom. Anklagene mot Outsider Enterprise er foreløpig ikke bevist i retten, og de antatte operatørene er ikke offentlig navngitt. Tallene på 1,9 milliarder dollar og 3,87 millioner kredittkort er FBI-estimater, ikke endelige, rettslig stadfestede beløp .

Operasjon «Ghost Hook»

Den koordinerte aksjonen, med kallenavnet «Operation Ghost Hook», viser en ny æra i kampen mot cyberkriminalitet. Mens Google gikk sivilt til verks, gjennomførte FBI en parallell operasjon for å beslaglegge domener og betalingsinfrastruktur . Kombinasjonen av juridiske skritt, teknisk sabotasje og etterretning fra telekomselskaper kan bli en blåkopi for fremtidige operasjoner mot KI-drevne trusler.