Як китайська кібермафія «Outsider Enterprise» використала ШІ Google для крадіжки $1,9 млрд: подробиці безпрецедентного позову

Як зловмисники використовували ШІ Google Gemini

Угруповання використовувало Gemini двома критично важливими способами:

• Автоматична генерація фейкових сайтів. Інструментарій використовував Gemini для написання HTML-коду фішингових сторінок, які імітували банки, служби доставки (на кшталт FedEx, USPS), дорожні служби стягнення плати та екрани входу, схожі на Google . ШІ створював якісні, переконливі цільові сторінки у промислових масштабах.
• Обхід систем безпеки. Оператори обходили вбудовані фільтри зловживань Gemini, формулюючи свої запити як невинні завдання. Наприклад, вони просили ШІ «згенерувати HTML-сторінку для сповіщення про доставку посилки», замість того щоб прямо просити створити фішингову сторінку .

Автоматизувавши створення сайтів за допомогою ШІ, Outsider суттєво знизила поріг технічних навичок для потенційних шахраїв, перетворивши ручний процес на операцію індустріального масштабу. Google стверджує, що мережа розгорнула понад 1 мільйон шахрайських вебсайтів та надіслала більше 2 мільйонів шахрайських SMS американським абонентам .

Структура угруповання, розкрита в позові

Позовна заява та супутні розслідування описують складну, майже корпоративну організаційну структуру, що складалася щонайменше з п'яти спеціалізованих підрозділів :

Такий поділ праці у поєднанні з автоматизацією на базі ШІ дозволив Outsider Enterprise працювати з розмахом та ефективністю, притаманними радше легітимній компанії з моделлю «програмне забезпечення як послуга» (SaaS), а не традиційній злочинній банді .

Ширші наслідки для ери ШІ-шахрайства

• «Демократизація» кіберзлочинності. Вбудувавши ШІ у дешевий та простий у використанні інструмент, Outsider дозволила людям без будь-яких навичок програмування запускати складні фішингові кампанії. Це знаменує перехід від цільових хакерських атак до масового, товарного ШІ-шахрайства за підпискою .
• Перший у своєму роді судовий позов. Це перший позов Google саме через зловживання його продуктами генеративного ШІ . Це сигналізує про те, що технологічні компанії переходять від суто технічного блокування зловживань до готовності судитися, щоб зруйнувати злочинний ланцюжок постачання.
• Нова модель державно-приватної співпраці. Google співпрацював із ФБР, AT&T, T-Mobile, Verizon та Lumen Technologies. Це демонструє, що для протидії ШІ-шахрайству необхідні скоординовані дії розробників ШІ, телеком-операторів та правоохоронних органів .
• Прогалини в законодавстві. Google використав цей позов, щоб закликати до оновлення законів, які б враховували специфіку зловживань ШІ. Наприклад, до криміналізації використання генеративного ШІ як зброї для шахрайства, що може нечітко регулюватися чинними нормами .

Важливе застереження: Позов є цивільною скаргою, а не кримінальним вироком. Звинувачення проти Outsider Enterprise не були доведені в суді, а особи операторів угруповання не були публічно названі. Цифри у $1,9 млрд та 3,87 млн кредитних карток є оцінками ФБР, наведеними у скарзі, а не остаточними підтвердженими судом сумами .