Sådan brugte Outsider Enterprise Googles egen AI til at drive en milliard-industri i phishing

Sådan brugte netværket Googles Gemini AI

Gruppen udnyttede Gemini på to afgørende måder:

• Automatiseret generering af falske sider – Værktøjssættet brugte Gemini til at generere HTML-koden til phishing-sider, der efterlignede banker, leveringstjenester (som FedEx og det amerikanske postvæsen), betalingsbureauer for vejafgifter og loginskærme, der lignede Googles egne . AI'en producerede polerede og overbevisende landingssider i stor skala.
• Omgåelse af sikkerhedsbarrierer – Operatørerne omgik Gemini's misbrugsfiltre ved at formulere deres forespørgsler som uskyldige opgaver. For eksempel ved at bede AI'en om at "generere en HTML-side til en pakkeleveringsnotifikation" i stedet for eksplicit at efterspørge en phishing-side .

Ved at automatisere oprettelsen af falske sider med AI sænkede Outsider den tekniske barriere for potentielle svindlere betragteligt og forvandlede en manuel proces til en industriel operation. Googles klage hævder, at netværket implementerede over 1 million svigagtige websites og sendte mere end 2 millioner scam-beskeder til amerikanske mobilbrugere .

Gruppens struktur afsløret i retssagen

Retssagen og de tilhørende efterforskninger beskriver en sofistikeret, næsten virksomhedslignende organisationsstruktur med mindst fem specialiserede afdelinger :

Denne arbejdsdeling – kombineret med den AI-drevne automatisering – gjorde det muligt for Outsider Enterprise at operere i en skala og med en effektivitet, der er typisk for en legitim software-as-a-service-virksomhed, ikke en traditionel kriminel bande .

Større perspektiver for AI-muliggjort svindel

• "Demokratiseringen" af cyberkriminalitet – Ved at indlejre AI i et billigt, brugervenligt værktøjssæt gjorde Outsider det muligt for personer helt uden kodningsfærdigheder at lancere sofistikerede phishing-kampagner. Dette markerer et skift fra målrettet hacking til kommoditiseret, AI-drevet svindel-som-en-service .
• En juridisk første gang – Dette er Googles første civile søgsmål specifikt rettet mod misbrug af dets generative AI-produkter . Det signalerer, at tech-virksomheder bevæger sig væk fra udelukkende at blokere misbrug teknisk og nu er villige til at føre retssager for at forstyrre den kriminelle forsyningskæde.
• Ny model for offentlig-privat håndhævelse – Google samarbejdede med FBI, AT&T, T-Mobile, Verizon og Lumen Technologies, hvilket viser, at bekæmpelse af AI-drevet svindel kræver en koordineret indsats på tværs af AI-udbydere, teleselskaber og retshåndhævelse .
• Fremhæver et regulatorisk tomrum – Google brugte retssagen til at opfordre til opdaterede love, der adresserer AI-specifikt misbrug, såsom love der kriminaliserer brugen af generativ AI til svindel, hvilket de nuværende statutter muligvis ikke dækker klart .

Vigtigt forbehold: Der er tale om et civilt søgsmål, ikke en strafferetlig dom. Anklagerne mod Outsider Enterprise er ikke blevet bevist i retten, og gruppens operatører er ikke blevet offentligt identificeret ved navn. De anførte 1,9 milliarder dollars og 3,87 millioner kreditkort er FBI-estimater citeret i klagen, ikke endelige, retsligt fastslåede tal .