Jak chińska sieć Outsider Enterprise wykorzystała AI Google do oszustw na 1,9 miliarda dolarów? Pozew odsłania kulisy

Jak sieć wykorzystała AI Gemini od Google?

Grupa wykorzystała Gemini na dwa kluczowe sposoby:

• Automatyczne generowanie fałszywych stron – Zestaw narzędzi wykorzystywał Gemini do tworzenia kodu HTML stron phishingowych, które naśladowały banki, firmy kurierskie (jak FedEx czy USPS), agencje obsługujące opłaty drogowe oraz ekrany logowania Google . AI produkowała na masową skalę dopracowane, wiarygodnie wyglądające strony.
• Omijanie zabezpieczeń – Operatorzy obchodzili filtry nadużyć Gemini, ukrywając swoje zamiary. Zamiast wprost prosić o stronę phishingową, formułowali zapytania jako niewinne zadania, np. „wygeneruj stronę HTML z powiadomieniem o dostawie paczki” .

Dzięki automatyzacji tworzenia stron za pomocą AI, Outsider radykalnie obniżył próg techniczny dla potencjalnych oszustów, przekształcając ręczny proces w działalność na skalę przemysłową. W pozwie Google’a czytamy, że sieć wdrożyła ponad milion fałszywych stron internetowych i wysłała ponad 2 miliony oszukańczych wiadomości SMS do użytkowników telefonów komórkowych w USA .

Struktura grupy ujawniona w pozwie

Pozew i powiązane śledztwa opisują wyrafinowaną, niemal korporacyjną strukturę organizacyjną, na którą składało się co najmniej pięć wyspecjalizowanych działów :

Ten podział pracy – w połączeniu z automatyzacją opartą na AI – pozwolił Outsider Enterprise działać ze skalą i wydajnością typową dla legalnej firmy oferującej oprogramowanie jako usługę (SaaS), a nie tradycyjnego gangu przestępczego .

Szersze implikacje dla oszustw wspieranych przez AI

• „Demokratyzacja” cyberprzestępczości – Poprzez zintegrowanie AI z tanim i prostym w obsłudze zestawem narzędzi, Outsider umożliwił osobom bez żadnych umiejętności programistycznych prowadzenie zaawansowanych kampanii phishingowych. Oznacza to przejście od hakowania wymierzonego w konkretny cel do skomercjalizowanego oszustwa jako usługi, napędzanego przez AI .
• Bezprecedensowe działania prawne – To pierwszy pozew Google’a dotyczący nadużyć jego produktów generatywnej AI . Sygnalizuje to, że firmy technologiczne wychodzą poza blokowanie nadużyć na poziomie technicznym i są teraz gotowe dochodzić swoich praw na drodze sądowej, aby rozbijać przestępczy łańcuch dostaw.
• Nowy model egzekwowania prawa – Google współpracował z FBI, AT&T, T-Mobile, Verizon i Lumen Technologies, co pokazuje, że walka z oszustwami napędzanymi przez AI wymaga skoordynowanych działań dostawców AI, operatorów telekomunikacyjnych i organów ścigania .
• Uwypuklenie luki regulacyjnej – Google wykorzystał pozew, aby zaapelować o aktualizację prawa. Chodzi o przepisy, które penalizowałyby wykorzystanie generatywnej AI do oszustw, ponieważ obecne regulacje mogą nie obejmować w sposób jednoznaczny takich nowych form nadużyć .

Ważne zastrzeżenie: Pozew jest skargą cywilną, a nie wyrokiem skazującym. Zarzuty wobec Outsider Enterprise nie zostały udowodnione w sądzie, a operatorzy grupy nie zostali publicznie zidentyfikowani z nazwiska. Podane kwoty 1,9 miliarda dolarów i liczba 3,87 miliona kart kredytowych to szacunki FBI przytoczone w pozwie, a nie ostateczne, potwierdzone przez sąd wartości .