Googles historiska stämning mot AI-driven bluffabrik

Den 12 juni 2026 lämnade Google in en civil stämningsansökan vid en federal domstol i New York mot ett cyberbrottsnätverk som företaget kallar "Outsider Enterprise". Det beskrivs som en tydlig markering i den allt hetare kampen mot AI-driven brottslighet. Enligt stämningsansökan, som bland annat beskrivs på Googles officiella blogg, ska det Kinabaserade nätverket systematiskt ha utnyttjat företagets egen AI-chattbot Gemini för att industrialisera phishing-bedrägerier i massiv skala .

Fallet är anmärkningsvärt inte bara för bluffens omfattning, utan för den nya metodiken: angriparna kringgick inte bara Googles säkerhetssystem, de använde själva kärntekniken för att bygga själva infrastrukturen bakom bedrägerierna. Det här markerar också en strategisk förändring för Google, som nu kombinerar civilrättsliga processer, brottsbekämpning och partnerskap med privata företag som ett permanent verktyg mot bedrägerier .

Så drev Outsider Enterprise sin AI-drivna bluffabrik

Kärnan i stämningsansökan beskriver en ytterst välorganiserad operation som förvandlade phishing till en prenumerationstjänst – ungefär som ett kriminellt Spotify för bedrägerier . Enligt domstolshandlingarna använde sig gruppen av flera specifika metoder:

• Genererade falska webbplatser med Gemini: Nätverket ska ha använt Googles Gemini för att skriva koden till falska webbplatser, vilket dramatiskt snabbade på produktionen av övertygande phishing-sidor . Det rörde sig inte om några enstaka amatörkopior; Google kunde koppla nätverket till över 9 000 falska webbplatser och en miljon bedrägliga domäner som utgav sig för att vara bland annat Amazon, storbanker, paketleverantörer och olika myndigheter .
• Industriell SMS-phishing (smishing): Nätverket anklagas för att ha orkestrerat en massiv bluffkampanj via SMS och skickat ut 2,5 miljoner bluffmeddelanden till Android-användare under en enda tvåveckorsperiod i maj 2026 . Dessa meddelanden innehöll, enligt Googles uppgifter, länkar till de AI-genererade falska webbplatserna i syfte att samla in lösenord, kreditkortsnummer och annan personlig information – ett digitalt rånförsök i enorm skala.
• Phishing-as-a-Service på Telegram: Gruppen drev inte bara sina egna bedrägerier, de kommersialiserade även hela verksamheten. De använde enligt uppgift Telegram-kanaler för att sälja "phishing-kit" och prenumerationer till andra kriminella. De erbjöd över 290 färdiga mallar för motsvarande ungefär 790 kronor i veckan . Denna "demokratisering" av brottsverktygen sänkte tröskeln rejält för mindre tekniskt kunniga aktörer att starta attacker med hjälp av professionella verktyg.

De mänskliga konsekvenserna var allvarliga. Google uppgav att operationen drabbade "hundratusentals offer" och orsakade ekonomiska förluster som uppskattas till miljontals kronor . Android-användare markerade själva 55 000 av bluffmeddelandena som spam under den intensiva tvåveckorsperioden i maj .

En historisk allians: Google, FBI och amerikanska telekomjättar

Svaret på Outsider Enterprise är lika anmärkningsvärt som själva attacken. Googles stämningsansökan, den första i sitt slag som riktar in sig på ett direkt missbruk av den egna Gemini-modellen, är bara en del av en koordinerad kraftsamling .

Företaget samarbetar direkt med den amerikanska federala polisen FBI, som vidtar parallella brottsbekämpande åtgärder. De har också inlett ett operativt partnerskap med telekomjättarna AT&T, T-Mobile och Verizon, samt Lumen, för att blockera bluffmeddelandena innan de når användarnas mobiler . Denna flerfrontsstrategi representerar en ovanlig nivå av samarbete mellan privat och offentlig sektor mot ett gemensamt cybersäkerhetshot.

En juridisk mall för AI-eran?

Stämningen syftar till att permanent riva upp infrastrukturen bakom Outsider Enterprise. Google har beskrivit den rättsliga processen som en långsiktig strategi och påpekar att företaget redan blockerar 10 miljarder skadliga meddelanden varje månad. Det här fallet markerar nu att rättstvister håller på att bli ett permanent "anti-bedrägeriinstrument" för techjätten .

Fallet kan skapa en rättslig och operativ mall för framtida ingripanden – en mall som kopplar samman civilrättsliga förelägganden med FBIs beslagtagning av domäner och realtidsfiltrering från mobiloperatörer . I takt med att AI-verktyg gör det billigare och snabbare för cyberbrottslingar att skapa övertygande och storskaliga bedrägerikampanjer, är denna stämning en tydlig signal om att plattformsägarna är beredda att dra det hela inför domstol för att slå tillbaka.