Google podniká právní kroky proti organizaci Outsider Enterprise za zneužití AI Gemini v masivní podvodné SMS kampani

Zneužití Gemini: Jak se útoky maskovaly za nevinné dotazy

Nejnovějším a nejznepokojivějším aspektem operace Outsider Enterprise bylo systematické zneužívání generativní AI. Zločinci už nemuseli umět programovat; stačilo, když věděli, jak se zeptat. Skupina instruovala své členy, aby používali Gemini a další AI chatboty ke generování HTML, CSS a JavaScript kódu pro falešné phishingové weby, a to tak, že své požadavky maskovali jako neškodné, obecné programátorské úkoly . Člen mohl například požádat Gemini, aby „vytvořil přihlašovací stránku pro technologickou společnost“ nebo „postavil portál zákaznické podpory“ – což jsou na první pohled legitimní požadavky. AI poté vygenerovala funkční kód, který podvodníci nahráli na podvodné domény, aby vytvořili přesvědčivé napodobeniny stránek Googlu, YouTube, vládních agentur a dalších důvěryhodných značek . Tato technika dramaticky snížila technickou bariéru pro zločince a umožnila jim rychle rozšiřovat své operace.

Byznys se zločinem: Monetizace podvodů přes Telegram

Podnik fungoval jako předplacená zločinecká firma, kde veškerý prodej a distribuce probíhaly prostřednictvím plně automatizovaného bota na Telegramu. Tato samoobslužná objednávková platforma učinila spuštění sofistikované phishingové kampaně stejně snadným, jako je registrace ke streamovací službě . Mezi klíčové vlastnosti sady „Outsider“ patřily:

• Předplatné licencí: Přístup k plné phishingové sadě začínal na 88 dolarech týdně (cca 2 000 Kč) .
• Předpřipravené šablony: Platforma nabízela více než 290 šablon pro napodobení velkých značek, bank, vládních agentur a mobilních operátorů .
• Zabudovaný keylogger: Phishingové stránky obsahovaly kód pro zachycení všech stisků kláves a v reálném čase tak sbíraly přihlašovací údaje .
• Přehled kampaní: Zákazníci mohli v reálném čase sledovat metriky výkonu svých kampaní – včetně počtu odeslaných textových zpráv, kliknutí na odkazy a ukradených přihlašovacích údajů .

Lidské a finanční škody: Dokumentovaná újma

Rozsah údajného podvodu je zarážející. Interní vyšetřování Googlu a soudní žaloba detailně popisují obrovské škody způsobené organizací Outsider Enterprise:

• Přes 100 000 obětí bylo přímo podvedeno .
• Finanční ztráty se odhadují na miliony dolarů (desítky milionů korun) .
• Skupina vytvořila více než 9 000 falešných webových stránek napodobujících důvěryhodné značky .
• Vygenerovali přes 1,59 milionu podvodných URL adres .
• Během pouhých dvou týdnů rozeslali spammeři uživatelům systému Android 2,5 milionu škodlivých SMS zpráv . Odhaduje se, že počet ukradených platebních karet dosáhl 36 000, a to od finančních institucí z 95 zemí světa .

Koordinovaná protiofenziva: Google, operátoři a FBI

Reakce na Outsider Enterprise byla koordinovaným mnohostranným úsilím, které kombinovalo občanskoprávní spor s obranou na úrovni sítě a federálními donucovacími orgány.

• Občanskoprávní žaloba: Google podal 12. června 2026 žalobu, ve které žádá o soudní zákaz činnosti s cílem rozbít infrastrukturu sítě. Žaloba se opírá o americký federální zákon RICO (o organizacích ovlivněných korupcí a vyděračstvím), zákon Lanham Act (na ochranu ochranných známek) a zákon o počítačových podvodech a zneužití (Computer Fraud and Abuse Act) . Toto je vůbec první žaloba Googlu za zneužití jeho AI produktů .
• Obrana na úrovni mobilních operátorů: Google přímo spolupracoval se společnostmi AT&T, T-Mobile a Verizon na identifikaci a blokování podvodných textových zpráv na síťové úrovni dříve, než mohly dorazit k uživatelům .
• Federální donucovací orgány: FBI provedla samostatné trestněprávní úkony, včetně zabavení domén a výnosů z trestné činnosti v hodnotě přes 100 000 dolarů (cca 2,3 milionu Kč) v rámci operace s krycím názvem „Operation Ghost Hook“ . Google uvedl, že „koordinoval postup s FBI, která podnikne vlastní právní kroky“ .

Agresivní právní postoj Googlu v kombinaci s jeho podporou pro aktualizaci federální legislativy, jako je zákon Stop SCAMS Act kongresmana Joshe Hardera, signalizuje, že éra zločinu poháněného umělou inteligencí narazila na novou úroveň reakce ze strany korporací i vlády .