La justice américaine démantèle Outsider Enterprise, le réseau chinois qui utilisait l'IA Gemini de Google pour industrialiser le phishing

Le détournement de l'IA Gemini

Le réseau a exploité l'IA de Google de deux manières principales :

• La création automatisée de faux sites : Le kit utilisait Gemini pour générer le code HTML de pages de phishing imitant à la perfection des banques, des services de livraison (comme FedEx ou USPS), des agences de péage autoroutier ou encore des écrans de connexion aux services Google . L'IA produisait ainsi à grande échelle des pages d'hameçonnage extrêmement convaincantes.
• Le contournement des sécurités : Les opérateurs ont appris à contourner les filtres anti-abus de Gemini en formulant leurs requêtes comme des tâches innocentes. Au lieu de demander explicitement une page de phishing, ils sollicitaient l'IA pour « générer une page HTML pour une notification de livraison de colis » .

En automatisant la création de sites, Outsider a considérablement abaissé la barrière technique pour les escrocs en herbe, transformant un processus manuel en une véritable industrie. La plainte de Google allègue que le réseau a déployé plus d'un million de sites web frauduleux et envoyé plus de 2 millions de SMS frauduleux à des utilisateurs américains .

Une structure quasi-entreprise

La plainte et les enquêtes révèlent une organisation étonnamment sophistiquée, structurée en cinq divisions spécialisées, à l'image d'une entreprise légitime :

Cette division du travail, couplée à une automatisation par l'IA, permettait à Outsider Enterprise d'opérer avec une efficacité et une ampleur dignes d'une start-up de logiciels, et non d'un gang criminel traditionnel .

Une menace plus large pour l'ère de l'IA

• La « démocratisation » du cybercrime : En intégrant l'IA dans un outil simple et bon marché, Outsider a permis à des individus sans compétences techniques de lancer des campagnes de phishing sophistiquées. Cela marque un basculement du piratage ciblé vers une fraude à la demande, industrialisée et dopée à l'IA .
• Une première judiciaire : C'est la première fois que Google intente une action en justice spécifiquement pour un usage abusif de ses produits d'IA générative . Cela signale que les géants de la tech ne se contentent plus de blocages techniques et sont désormais prêts à utiliser les tribunaux pour démanteler la chaîne d'approvisionnement criminelle.
• Un nouveau modèle de collaboration public-privé : La collaboration entre Google, le FBI, les opérateurs télécoms américains et Lumen Technologies montre que la perturbation de la fraude par l'IA exige une coordination entre fournisseurs d'IA, opérateurs et forces de l'ordre .
• Le vide juridique pointé du doigt : Google profite de ce procès pour appeler à une modernisation des lois, notamment pour criminaliser spécifiquement l'utilisation malveillante de l'IA générative à des fins de fraude, ce que les textes actuels ne couvrent pas parfaitement .

Mise en garde : La plainte est une action civile, pas une condamnation pénale. Les allégations contre Outsider Enterprise n'ont pas été prouvées devant un tribunal et les opérateurs du groupe n'ont pas été identifiés nominativement publiquement. Les chiffres de 1,9 milliard de dollars et de 3,87 millions de cartes bancaires sont des estimations du FBI citées dans la plainte, et non des montants définitivement jugés .