Googlen oma tekoäly valjastettiin massiivisiin tietojenkalasteluhuijauksiin – yhtiö vastaa nyt miljardikanteella

Miten se käytti Googlen Gemini-tekoälyä?

Verkosto hyödynsi Geminiä kahdella keskeisellä tavalla:

• Automatisoitu väärennössivustojen luonti – Työkalupakki käytti Geminiä tuottamaan tietojenkalastelusivujen HTML-koodia. Nämä sivut jäljittelivät hämmästyttävän tarkasti pankkeja, logistiikkayhtiöitä (kuten FedEx ja USPS), tietullipalveluita ja Googlen omia kirjautumissivuja . Tekoäly tuotti viimeisteltyjä, vakuuttavia huijaussivustoja teollisessa mittakaavassa.
• Turvasuodatusten kiertäminen – Operaattorit ohittivat Geminin väärinkäyttösuodattimet kehystämällä pyyntönsä viattomina tehtävinä. He esimerkiksi pyysivät tekoälyä "luomaan HTML-sivun paketin toimitusilmoitusta varten" sen sijaan, että olisivat suoraan pyytäneet tietojenkalastelusivua .

Automatisoimalla verkkosivujen luonnin tekoälyllä Outsider madalsi teknisen osaamisen kynnystä huijareiksi aikoville, muuttaen manuaalisen prosessin teollisen mittaluokan operaatioksi. Googlen kanteessa väitetään, että verkosto otti käyttöön yli miljoona vilpillistä verkkosivustoa ja lähetti yli 2 miljoonaa huijaustekstiviestiä yhdysvaltalaisille matkapuhelinkäyttäjille .

Kanteen paljastama organisaatiorakenne

Oikeusjuttu ja siihen liittyvät tutkimukset kuvaavat kehittynyttä, lähes yritysmäistä organisaatiorakennetta, johon kuului ainakin viisi erikoistunutta osastoa :

Tämä työnjako – yhdistettynä tekoälyavusteiseen automatisointiin – mahdollisti Outsider Enterprisen toiminnan mittakaavassa ja tehokkuudella, joka on tyypillistä laillisille SaaS-yrityksille (Software as a Service), ei perinteiselle rikollisliigalle .

Laajemmat vaikutukset tekoälyavusteisiin petoksiin

• Kyberrikollisuuden "demokratisoituminen" – Upottamalla tekoälyn halpaan, helppokäyttöiseen työkalupakkiin Outsider mahdollisti sen, että henkilöt, joilla ei ole lainkaan koodaustaitoja, saattoivat käynnistää kehittyneitä tietojenkalastelukampanjoita. Tämä merkitsee siirtymää kohdennetusta hakkeroinnista massatuotettuun, tekoälyllä toimivaan petos palveluna -malliin .
• Ennennäkemätön oikeustoimi – Tämä on Googlen ensimmäinen kanne, joka koskee nimenomaan sen generatiivisten tekoälytuotteiden väärinkäyttöä . Se viestii, että teknologiayhtiöt ovat siirtymässä pelkästä teknisestä väärinkäytön estämisestä kohti aktiivisia oikeustoimia rikollisen toimitusketjun katkaisemiseksi.
• Uusi julkisen ja yksityisen sektorin yhteistyön malli – Google teki yhteistyötä FBI:n, AT&T:n, T-Mobilen, Verizonin ja Lumen Technologiesin kanssa. Tämä osoittaa, että tekoälyavusteisten petosten torjuminen vaatii koordinoituja toimia tekoäly-yrityksiltä, teleoperaattoreilta ja lainvalvontaviranomaisilta .
• Sääntelyaukko paljastuu – Google käytti kannetta vaatiakseen päivitettyjä lakeja, jotka kriminalisoisivat selkeästi generatiivisen tekoälyn aseistamisen petoksiin – asia, jota nykyiset säädökset eivät välttämättä kata riittävän kattavasti .

Tärkeä huomio: Kyseessä on siviilikanne, ei rikostuomio. Syytöksiä Outsider Enterpriseä vastaan ei ole todistettu oikeudessa, eikä verkoston operaattoreita ole julkisesti nimetty. Kanteessa mainitut 1,9 miljardin dollarin vahingot ja 3,87 miljoonan luottokortin tiedot ovat FBI:n arvioita, eivät lopullisia tuomioistuimen vahvistamia lukuja .