Google stämmer kinesiskt nätverk som använde Gemini AI för industriell phishing – så gick det till

När ett cyberbrottsnätverk vänder en techjättes egen avancerade AI mot dess användare skapas en helt ny typ av digitalt hot. Den 12 juni 2026 lämnade Google in en civil stämningsansökan i den federala domstolen för New Yorks södra distrikt mot en organisation baserad i Kina som företaget kallar “Outsider Enterprise”. Enligt stämningen orkestrerade gruppen en så kallad “phishing-as-a-service” (PhaaS)-verksamhet där Googles Gemini AI användes för att massproducera falska webbplatser och skicka miljontals bedrägliga sms till amerikaner. Detta är företagets första rättsliga åtgärd mot missbruk av sina AI-produkter .

Industrin bakom phishing: Ett maskineri i fem delar

Enligt stämningsansökan var Outsider Enterprise inte en ensam hacker utan ett sammanlänkat, specialiserat nätverk strukturerat för maximal effektivitet. Verksamheten delades upp i fem distinkta roller, som var och en bidrog till en pipeline som förvandlade stulen data till kontanter :

• Utvecklaren: Denna grupp byggde och underhöll kärnprodukten – själva “Outsider” PhaaS-kittet. Deras arbete inkluderade den AI-assisterade webbplatsgeneratorn, den kundvända Telegram-boten, en instrumentpanel för kampanjresultat samt infrastrukturen för tangenttryckningsloggning som fångade offers lösenord i realtid .
• Datamäklaren: Detta team försåg verksamheten med råmaterial för riktade attacker. De köpte och sålde stulen konsumentdata – telefonnummer och personlig information – vilket gjorde det möjligt att genomföra skräddarsydda smishing-kampanjer .
• Avsändaren: Den grupp som stod för distributionen. De drev infrastrukturen för sms-utskick och ansvarade för att skicka iväg miljontals bedrägliga textmeddelanden till amerikanska telefonnummer, med särskilt fokus på Android-användare .
• Utpressaren: Det här var verksamhetens finansiella motor. Gruppen skötte de bakomliggande systemen som tog emot, sorterade och slutligen omsatte de stulna inloggningsuppgifterna och kreditkortsnumren som skördats från offren .
• Telegram: Denna grupp ansvarade för hela försäljnings- och supportkanalen via en dedikerad Telegram-bot. Boten fungerade som både skyltfönster och beställningssystem för kunder till den illegala tjänsten .

När AI blir ett vapen: Hur missbruket doldes

Den mest uppseendeväckande aspekten av Outsider Enterprise-operationen var det systematiska missbruket av generativ AI. Brottslingarna behövde inte kunna koda; de behövde bara veta hur de skulle ställa rätt fråga. Gruppen instruerade sina medlemmar att använda Gemini och andra AI-chatbottar för att generera HTML-, CSS- och JavaScript-kod till falska phishing-webbplatser genom att maskera sina uppmaningar som oskyldiga, generiska programmeringsförfrågningar . En medlem kunde till exempel be Gemini att “skapa en inloggningssida för ett techföretag” eller “bygga en kundsupportportal” – förfrågningar som vid första anblicken verkade legitima. AI:n levererade då fungerande kod som bedragarna sedan laddade upp på falska domäner för att skapa övertygande kopior av inloggningssidor för Google, YouTube, myndigheter och andra betrodda varumärken . Denna teknik sänkte dramatiskt tröskeln för brottslingar och möjliggjorde en snabb expansion av verksamheten.

Brott som affärsmodell: Så tjänade de pengar via Telegram

Verksamheten drevs som en prenumerationsbaserad brottsplattform där all försäljning och distribution sköttes genom en helautomatiserad Telegram-bot. Denna självbetjäningsplattform gjorde det lika enkelt att starta en sofistikerad phishing-kampanj som att teckna ett streamingabonnemang . Nyckelfunktioner i “Outsider”-kittet inkluderade:

• Prenumerationslicenser: Tillgång till det fullständiga PhaaS-kittet började på 88 dollar per vecka .
• Färdiga mallar: Plattformen erbjöd över 290 förfalskningsmallar som täckte större varumärken, banker, myndigheter och mobiloperatörer .
• Inbyggd tangenttryckningsloggning: Phishing-sidorna var kodade för att registrera alla tangenttryckningar och skördade inloggningsuppgifter direkt .
• Instrumentpanel: Kunder kunde i realtid följa sina kampanjers prestanda – inklusive antal skickade sms, klick på länkar och stulna kontouppgifter .

De mänskliga och ekonomiska offren: Skadans omfattning

Omfattningen av det påstådda bedrägeriet är svindlande. Googles utredning och stämningsansökan visar på enorm skada orsakad av Outsider Enterprise:

• Över 100 000 personer har direkt utsatts för bedrägeri .
• De ekonomiska förlusterna uppskattas till miljontals dollar .
• Gruppen skapade över 9 000 falska webbplatser som imiterade kända varumärken .
• De genererade över 1,59 miljoner bedrägliga webbadresser .
• Under en period på bara två veckor skickade gruppen 2,5 miljoner bluff-sms till Android-användare . Antalet stulna betalkort uppskattades till 36 000, utfärdade av banker i 95 länder .

Ett samordnat motangrepp: Google, operatörer och FBI

Svaret på Outsider Enterprise blev en koordinerad, flerfrontsinsats som kombinerade civilrättsliga åtgärder med försvar på operatörsnivå och federala polisinsatser.

• Stämningsansökan: Googles civilrättsliga talan, inlämnad den 12 juni 2026, syftar till ett föreläggande för att slå ut nätverkets infrastruktur. Den grundar sig på den amerikanska lagen om organisationer influerade av korruption och utpressning (RICO), varumärkeslagen Lanham Act och lagen om datorbedrägerier (Computer Fraud and Abuse Act) . Detta är Googles första stämningsansökan någonsin för missbruk av deras AI-produkter .
• Försvar på operatörsnivå: Google arbetade direkt med AT&T, T-Mobile och Verizon för att identifiera och blockera de bedrägliga sms:en på nätverksnivå innan de nådde användarna .
• Federal polismyndighet: FBI genomförde separata brottsbekämpande åtgärder, inklusive beslagtagande av domäner och över 100 000 dollar i brottsvinster som en del av en operation med kodnamnet “Operation Ghost Hook” . Google uppgav att man “samordnade sig med FBI, som kommer att vidta brottsbekämpande åtgärder” .

Googles aggressiva juridiska hållning, kombinerat med deras arbete för att driva igenom ny federal lagstiftning som kongressledamoten Josh Harders “Stop SCAMS Act”, signalerar att eran av AI-driven brottslighet nu har mötts av en ny nivå av insatser från både företag och myndigheter .