Jak čínská kyberkriminální síť Outsider Enterprise zneužila Google Gemini k podvodům za 1,9 miliardy dolarů

Jak síť zneužila AI Gemini od Googlu

Skupina zneužila AI asistenta Gemini dvěma klíčovými způsoby:

• Automatizovaná tvorba falešných stránek – Sada nástrojů využívala Gemini ke generování HTML kódu pro phishingové stránky, které napodobovaly banky, doručovací společnosti (např. FedEx, USPS), provozovatele dálničních poplatků a přihlašovací obrazovky Googlu . AI tak ve velkém měřítku produkovala profesionálně vypadající a přesvědčivé podvodné stránky.
• Obcházení bezpečnostních filtrů – Operátoři obcházeli filtry zneužití Gemini tím, že své požadavky formulovali jako nevinné úkoly. Například místo přímého požadavku na vytvoření phishingové stránky AI žádali o „vygenerování HTML stránky pro notifikaci o doručení balíku“ .

Automatizací tvorby webových stránek pomocí AI Outsider Enterprise výrazně snížil laťku technických dovedností potřebných k páchání podvodů a změnil původně manuální proces na operaci průmyslového rozsahu. Podle žaloby Googlu síť nasadila přes 1 milion podvodných webových stránek a odeslala více než 2 miliony podvodných textových zpráv uživatelům mobilních telefonů v USA .

Struktura skupiny odhalená v žalobě

Žaloba a související vyšetřování popisují sofistikovanou, téměř korporátní organizační strukturu s minimálně pěti specializovanými divizemi :

Tato dělba práce v kombinaci s automatizací pomocí AI umožnila Outsider Enterprise fungovat v měřítku a efektivitě typické spíše pro legitimní softwarovou společnost než pro tradiční zločinecký gang .

Širší důsledky pro podvody s využitím umělé inteligence

• „Demokratizace“ kyberzločinu – Začleněním AI do levné a snadno použitelné sady nástrojů Outsider Enterprise umožnil jednotlivcům bez znalosti programování spouštět sofistikované phishingové kampaně. To představuje posun od cíleného hackování ke komoditizovaným podvodům využívajícím AI jako službu .
• První právní krok svého druhu – Jde o první žalobu společnosti Google, která se konkrétně týká zneužití jejích produktů generativní AI . Naznačuje to, že technologické firmy překračují rámec technického blokování a jsou nyní ochotny vést soudní spory s cílem narušit kriminální dodavatelský řetězec.
• Nový model veřejně-soukromé spolupráce – Google spolupracoval s FBI, AT&T, T-Mobile, Verizon a Lumen Technologies, což dokazuje, že narušení podvodů řízených AI vyžaduje koordinovanou akci napříč poskytovateli AI, telekomunikačními operátory a donucovacími orgány .
• Poukázání na mezery v regulaci – Google využil tuto žalobu k výzvě k aktualizaci zákonů, které by se specificky zaměřovaly na zneužití AI, jako je kriminalizace využívání generativní AI k podvodům, což současné zákony nemusí jednoznačně pokrývat .

Klíčové upozornění: Žaloba je občanskoprávní stížností, nikoli trestním odsouzením. Obvinění vznesená proti Outsider Enterprise nebyla u soudu prokázána a operátoři skupiny nebyli veřejně jmenováni. Odhady FBI ve výši 1,9 miliardy dolarů a 3,87 milionu kreditních karet jsou uvedeny v žalobě a nepředstavují soudně potvrzené údaje .