Sådan brugte Outsider Enterprise Googles egen AI til at drive en milliard-industri i phishing

Den 12. juni 2026 indgav Google et skelsættende civilt søgsmål ved en føderal domstol i New Yorks sydlige distrikt mod Outsider Enterprise. Netværket, der menes at have base i Kina, beskyldes for at have brugt Googles egen Gemini AI til at drive en enorm "phishing-as-a-service" (PhaaS)-operation. Ifølge FBI’s estimater har aktiviteterne forårsaget tab på omkring 1,9 milliarder dollars og kompromitteret 3,87 millioner kreditkort i 95 lande siden juli 2023 . Samtidig med søgsmålet slog FBI, Google og Lumen Technologies til mod gruppens infrastruktur og beslaglagde servere og kryptobetalingspunge i en koordineret aktion .

Hvad er Outsider Enterprise?

Outsider Enterprise var ikke en enlig hackergruppe, men en kommerciel cyberkriminalitets-franchise – en phishing-as-a-service-platform, der solgte færdiglavede angrebsværktøjssæt til kriminelle på et lavere niveau . Kernen i produktet var en Telegram-baseret bot. For så lidt som 88 dollars om ugen eller cirka 200 dollars om måneden kunne købere automatisk få genereret falske hjemmesider og masse-tekstbeskeder, der udgav sig for at være fra legitime virksomheder .

Sådan brugte netværket Googles Gemini AI

Gruppen udnyttede Gemini på to afgørende måder:

• Automatiseret generering af falske sider – Værktøjssættet brugte Gemini til at generere HTML-koden til phishing-sider, der efterlignede banker, leveringstjenester (som FedEx og det amerikanske postvæsen), betalingsbureauer for vejafgifter og loginskærme, der lignede Googles egne . AI'en producerede polerede og overbevisende landingssider i stor skala.
• Omgåelse af sikkerhedsbarrierer – Operatørerne omgik Gemini's misbrugsfiltre ved at formulere deres forespørgsler som uskyldige opgaver. For eksempel ved at bede AI'en om at "generere en HTML-side til en pakkeleveringsnotifikation" i stedet for eksplicit at efterspørge en phishing-side .

Ved at automatisere oprettelsen af falske sider med AI sænkede Outsider den tekniske barriere for potentielle svindlere betragteligt og forvandlede en manuel proces til en industriel operation. Googles klage hævder, at netværket implementerede over 1 million svigagtige websites og sendte mere end 2 millioner scam-beskeder til amerikanske mobilbrugere .

Gruppens struktur afsløret i retssagen

Retssagen og de tilhørende efterforskninger beskriver en sofistikeret, næsten virksomhedslignende organisationsstruktur med mindst fem specialiserede afdelinger :

Afdeling	Rolle
Udvikler	Byggede og vedligeholdt PhaaS-værktøjssættet samt integrationen med Gemini
Data-mægler	Anskaffede og solgte stjålne legitimationsoplysninger og personlige data fra ofre
Spammer / SMS-operatør	Drev infrastrukturen til masse-udsendelse af tekstbeskeder (ofte via kaprede eller forfalskede afsender-ID'er)
Tyveri / Svindel	Håndterede eksfiltrering og monetarisering af stjålne kreditkort- og login-data
Telegram-koordination	Drev den kundevendte bot, tog sig af betalinger (i kryptovaluta) og ydede kundesupport til købere

Denne arbejdsdeling – kombineret med den AI-drevne automatisering – gjorde det muligt for Outsider Enterprise at operere i en skala og med en effektivitet, der er typisk for en legitim software-as-a-service-virksomhed, ikke en traditionel kriminel bande .

Større perspektiver for AI-muliggjort svindel

• "Demokratiseringen" af cyberkriminalitet – Ved at indlejre AI i et billigt, brugervenligt værktøjssæt gjorde Outsider det muligt for personer helt uden kodningsfærdigheder at lancere sofistikerede phishing-kampagner. Dette markerer et skift fra målrettet hacking til kommoditiseret, AI-drevet svindel-som-en-service .
• En juridisk første gang – Dette er Googles første civile søgsmål specifikt rettet mod misbrug af dets generative AI-produkter . Det signalerer, at tech-virksomheder bevæger sig væk fra udelukkende at blokere misbrug teknisk og nu er villige til at føre retssager for at forstyrre den kriminelle forsyningskæde.
• Ny model for offentlig-privat håndhævelse – Google samarbejdede med FBI, AT&T, T-Mobile, Verizon og Lumen Technologies, hvilket viser, at bekæmpelse af AI-drevet svindel kræver en koordineret indsats på tværs af AI-udbydere, teleselskaber og retshåndhævelse .
• Fremhæver et regulatorisk tomrum – Google brugte retssagen til at opfordre til opdaterede love, der adresserer AI-specifikt misbrug, såsom love der kriminaliserer brugen af generativ AI til svindel, hvilket de nuværende statutter muligvis ikke dækker klart .

Vigtigt forbehold: Der er tale om et civilt søgsmål, ikke en strafferetlig dom. Anklagerne mod Outsider Enterprise er ikke blevet bevist i retten, og gruppens operatører er ikke blevet offentligt identificeret ved navn. De anførte 1,9 milliarder dollars og 3,87 millioner kreditkort er FBI-estimater citeret i klagen, ikke endelige, retsligt fastslåede tal .