Så använde cyberligan Outsider Enterprise Googles Gemini AI för miljardbedrägerier – och varför Google nu stämmer

Så använde nätverket Googles Gemini AI

Ligan använde Gemini på två avgörande sätt som förvandlade manuellt lurendrejeri till en industriell process :

1. Automatiserad generering av falska sidor: Verktyget använde Gemini för att skriva HTML-koden till phishing-sidor som såg ut exakt som inloggningssidor för banker, leveransföretag och vägtullsmyndigheter. AI:n kunde snabbt skapa övertygande, polerade kopior i stor skala .
2. Kringgående av AI-säkerhetsfilter: För att komma runt Geminis inbyggda skydd formulerade operatörerna sina förfrågningar som oskyldiga uppgifter, till exempel genom att be AI:n ”skapa en HTML-sida för en paketleveransavisering” istället för att rakt ut beställa en phishing-sida .

Resultatet? Enligt Googles anmälan skapade nätverket över en miljon bedrägliga webbplatser och skickade mer än två miljoner bluff-sms till amerikanska mobilanvändare – bara under en tvåveckorsperiod i maj 2026 .

Så var nätverket organiserat – nästan som ett riktigt företag

Stämningsansökan målar upp en bild av en anmärkningsvärt professionell struktur. Precis som ett mjukvaruföretag hade Outsider Enterprise en tydlig arbetsfördelning med minst fem specialiserade avdelningar :

Denna arbetsfördelning, i kombination med AI-automatisering, gjorde att Outsider Enterprise kunde operera med en effektivitet som mer liknar en legitim mjukvaruleverantör än ett traditionellt kriminellt gäng .

De större konsekvenserna för AI-driven brottslighet

Googles historiska stämning pekar på flera viktiga skiften:

• ”Demokratisering” av cyberbrott: Genom att bädda in AI i lättanvända, billiga verktyg sänkte Outsider Enterprise tröskeln rejält. Vem som helst kunde nu starta sofistikerade phishing-kampanjer utan programmeringskunskaper – en förskjutning från riktad hackning till kommersialiserad, AI-driven ”bedrägeri-som-tjänst” .
• Ny juridisk frontlinje: Detta är första gången Google stämmer någon för missbruk av sina generativa AI-produkter . Det markerar en ny strategi där tech-företag inte längre bara blockerar missbruk tekniskt, utan även tar till domstol för att slå mot själva den kriminella leverantörskedjan.
• Ny form av samarbete: Google samarbetade med FBI och teleoperatörer som AT&T, T-Mobile och Verizon – ett bevis på att kampen mot AI-bedrägerier kräver en koordinerad insats mellan AI-utvecklare, telekombolag och brottsbekämpning .
• Efterlyser tuffare lagar: I samband med stämningen passade Google också på att efterlysa uppdaterad lagstiftning som kriminaliserar användning av generativ AI för bedrägerier, då dagens regelverk inte alltid täcker denna nya typ av brottslighet .

Viktigt att veta: Stämningsansökan är ett civilrättsligt klagomål, inte en fällande dom. Alla anklagelser mot Outsider Enterprise är i nuläget obevisade i domstol, och personerna bakom nätverket har inte identifierats offentligt. Siffrorna om 1,9 miljarder dollar och 3,87 miljoner kreditkort är FBI:s uppskattningar, inte slutgiltigt fastställda belopp .