Google stämmer kinesiskt nätverk som använde Gemini AI för industriell phishing – så gick det till

När AI blir ett vapen: Hur missbruket doldes

Den mest uppseendeväckande aspekten av Outsider Enterprise-operationen var det systematiska missbruket av generativ AI. Brottslingarna behövde inte kunna koda; de behövde bara veta hur de skulle ställa rätt fråga. Gruppen instruerade sina medlemmar att använda Gemini och andra AI-chatbottar för att generera HTML-, CSS- och JavaScript-kod till falska phishing-webbplatser genom att maskera sina uppmaningar som oskyldiga, generiska programmeringsförfrågningar . En medlem kunde till exempel be Gemini att “skapa en inloggningssida för ett techföretag” eller “bygga en kundsupportportal” – förfrågningar som vid första anblicken verkade legitima. AI:n levererade då fungerande kod som bedragarna sedan laddade upp på falska domäner för att skapa övertygande kopior av inloggningssidor för Google, YouTube, myndigheter och andra betrodda varumärken . Denna teknik sänkte dramatiskt tröskeln för brottslingar och möjliggjorde en snabb expansion av verksamheten.

Brott som affärsmodell: Så tjänade de pengar via Telegram

Verksamheten drevs som en prenumerationsbaserad brottsplattform där all försäljning och distribution sköttes genom en helautomatiserad Telegram-bot. Denna självbetjäningsplattform gjorde det lika enkelt att starta en sofistikerad phishing-kampanj som att teckna ett streamingabonnemang . Nyckelfunktioner i “Outsider”-kittet inkluderade:

• Prenumerationslicenser: Tillgång till det fullständiga PhaaS-kittet började på 88 dollar per vecka .
• Färdiga mallar: Plattformen erbjöd över 290 förfalskningsmallar som täckte större varumärken, banker, myndigheter och mobiloperatörer .
• Inbyggd tangenttryckningsloggning: Phishing-sidorna var kodade för att registrera alla tangenttryckningar och skördade inloggningsuppgifter direkt .
• Instrumentpanel: Kunder kunde i realtid följa sina kampanjers prestanda – inklusive antal skickade sms, klick på länkar och stulna kontouppgifter .

De mänskliga och ekonomiska offren: Skadans omfattning

Omfattningen av det påstådda bedrägeriet är svindlande. Googles utredning och stämningsansökan visar på enorm skada orsakad av Outsider Enterprise:

• Över 100 000 personer har direkt utsatts för bedrägeri .
• De ekonomiska förlusterna uppskattas till miljontals dollar .
• Gruppen skapade över 9 000 falska webbplatser som imiterade kända varumärken .
• De genererade över 1,59 miljoner bedrägliga webbadresser .
• Under en period på bara två veckor skickade gruppen 2,5 miljoner bluff-sms till Android-användare . Antalet stulna betalkort uppskattades till 36 000, utfärdade av banker i 95 länder .

Ett samordnat motangrepp: Google, operatörer och FBI

Svaret på Outsider Enterprise blev en koordinerad, flerfrontsinsats som kombinerade civilrättsliga åtgärder med försvar på operatörsnivå och federala polisinsatser.

• Stämningsansökan: Googles civilrättsliga talan, inlämnad den 12 juni 2026, syftar till ett föreläggande för att slå ut nätverkets infrastruktur. Den grundar sig på den amerikanska lagen om organisationer influerade av korruption och utpressning (RICO), varumärkeslagen Lanham Act och lagen om datorbedrägerier (Computer Fraud and Abuse Act) . Detta är Googles första stämningsansökan någonsin för missbruk av deras AI-produkter .
• Försvar på operatörsnivå: Google arbetade direkt med AT&T, T-Mobile och Verizon för att identifiera och blockera de bedrägliga sms:en på nätverksnivå innan de nådde användarna .
• Federal polismyndighet: FBI genomförde separata brottsbekämpande åtgärder, inklusive beslagtagande av domäner och över 100 000 dollar i brottsvinster som en del av en operation med kodnamnet “Operation Ghost Hook” . Google uppgav att man “samordnade sig med FBI, som kommer att vidta brottsbekämpande åtgärder” .

Googles aggressiva juridiska hållning, kombinerat med deras arbete för att driva igenom ny federal lagstiftning som kongressledamoten Josh Harders “Stop SCAMS Act”, signalerar att eran av AI-driven brottslighet nu har mötts av en ny nivå av insatser från både företag och myndigheter .