Иск Google к Outsider Enterprise: как ИИ Gemini превратился в инструмент для фишинга на $1,9 млрд

Как группировка использовала ИИ Gemini от Google

Сеть использовала Gemini двумя ключевыми способами:

• Автоматическая генерация поддельных сайтов — Инструментарий применял Gemini для создания HTML-кода фишинговых страниц, имитирующих банки, службы доставки (такие как FedEx и USPS), дорожные службы и экраны входа в аккаунты Google . ИИ производил качественные, убедительные целевые страницы в промышленных масштабах.
• Обход защитных фильтров — Операторы обходили встроенные предохранители Gemini, формулируя свои запросы как безобидные задачи. Например, они просили ИИ «создать HTML-страницу для уведомления о доставке посылки», вместо того чтобы прямо запрашивать фишинговую страницу .

Автоматизировав создание сайтов с помощью ИИ, Outsider снизила порог входа для потенциальных мошенников, превратив ручной процесс в промышленную операцию. В иске Google утверждается, что сеть развернула более 1 миллиона мошеннических сайтов и отправила более 2 миллионов фишинговых SMS пользователям мобильной связи в США .

Структура группы, раскрытая в иске

Поданный иск и связанные с ним расследования описывают сложную, почти корпоративную, организационную структуру, включающую как минимум пять специализированных подразделений :

Такое разделение труда в сочетании с автоматизацией на базе ИИ позволило Outsider Enterprise работать с масштабом и эффективностью, характерными для легальных компаний-разработчиков ПО, а не для традиционных преступных группировок .

Более широкие последствия для мошенничества с использованием ИИ

• «Демократизация» киберпреступности — Встроив ИИ в дешевый и простой в использовании инструментарий, Outsider позволила людям без навыков программирования запускать сложные фишинговые кампании. Это знаменует переход от целевого взлома к коммодитизированному мошенничеству-как-услуге на базе ИИ .
• Первый юридический прецедент — Это первый в истории иск Google, связанный именно со злоупотреблением его продуктами на основе генеративного ИИ . Это сигнализирует о том, что технологические компании переходят от чисто технического блокирования злоупотреблений к готовности судиться для разрушения цепочек поставок киберпреступников.
• Новая модель государственно-частного правоприменения — Google сотрудничал с ФБР, AT&T, T-Mobile, Verizon и Lumen Technologies, демонстрируя, что для пресечения мошенничества с использованием ИИ требуются скоординированные действия поставщиков ИИ-технологий, операторов связи и правоохранительных органов .
• Пробелы в регулировании — Google использовал иск для того, чтобы призвать к обновлению законов, которые учитывали бы специфику злоупотреблений с ИИ, например, к криминализации использования генеративного ИИ в мошеннических целях, что может не полностью охватываться текущим законодательством .

Важное уточнение: Данный иск является гражданским заявлением, а не уголовным приговором. Обвинения против Outsider Enterprise не были доказаны в суде, а личности операторов группы не были публично названы. Сумма в $1,9 млрд и 3,87 млн кредитных карт — это оценки ФБР, приведенные в жалобе, а не окончательно установленные судом цифры .

Часто задаваемые вопросы

Почему это дело считают историческим?
Это первый случай, когда технологический гигант подает в суд за прямое использование его флагманского генеративного ИИ для совершения масштабных киберпреступлений, что создает важный юридический прецедент.

Что стало с инфраструктурой Outsider Enterprise?
В ходе операции, названной «Ghost Hook», ФБР и Lumen Technologies изъяли серверы и платежные криптовалютные кошельки сети одновременно с подачей иска Google .