Phantom Squatting : l’IA hallucine des URL, les pirates les achètent

La chaîne d’attaque : de l’hallucination de l’IA au détournement de domaine

Le phantom squatting suit un processus en trois étapes, simple mais dangereux, qui exploite la manière dont les grands modèles de langage (LLM) gèrent les informations manquantes .

Étape 1 : Sonder les hallucinations. Les attaquants interrogent systématiquement les modèles d’IA pour découvrir les domaines « fantômes » que ces modèles ont tendance à halluciner pour des marques spécifiques . Les LLM peuvent générer des « URL parfaitement structurées et très convaincantes » pointant vers des domaines qui n’ont jamais été enregistrés .

Étape 2 : Enregistrer le domaine fantôme. Une fois le domaine halluciné identifié, l’attaquant achète le nom de domaine non enregistré pour quelques euros, met en place une infrastructure malveillante et attend .

Étape 3 : Exploiter la confiance des utilisateurs. La victime — qu’il s’agisse d’un humain ou d’un agent IA autonome — suit le lien généré par l’IA et tombe dans le piège . Au moment où un flux de sécurité traditionnel signale le domaine comme malveillant, les dégâts sont souvent déjà faits .

Cette technique marque un tournant par rapport au cybersquatting classique. Ce dernier repose sur les fautes de frappe humaines ou les sites miroirs comme « netflix-paiements[.]com » . Le phantom squatting remplace l’erreur humaine par l’hallucination de l’IA, transformant le défaut même du modèle en vecteur d’attaque .

Exemples concrets et techniques connexes

Bien que Palo Alto Networks n’ait pas divulgué publiquement de noms de marques ou de domaines précis pris dans des campagnes de phantom squatting, plusieurs schémas documentés fournissent un contexte concret .

Usurpation du service client. Le phantom squatting peut servir à créer des liens d’hameçonnage qui imitent des URL légitimes de marques ou de support générées par un système d’IA . L’attaque exploite le fait qu’un utilisateur peut davantage faire confiance à un lien s’il semble provenir d’un assistant IA .

Hameçonnage et squatting sur le thème de l’IA. Palo Alto Networks a signalé un essor des techniques classiques de malwares et d’hameçonnage profitant de l’intérêt pour l’IA et ChatGPT . Entre novembre 2022 et avril 2023, l’Unité 42 a observé une augmentation de 910 % des enregistrements mensuels de domaines liés à ChatGPT, et jusqu’à 118 détections quotidiennes d’URL malveillantes liées à ChatGPT . L’objectif des attaquants est d’attirer les utilisateurs de ChatGPT vers des sites semblant liés mais conçus pour les infecter .

Technique connexe : le « slopsquatting ». Une variante parallèle qui cible la chaîne d’approvisionnement — appelée « slopsquatting » — vise les noms de paquets logiciels hallucinés par l’IA plutôt que les noms de domaine . Dans ce modèle, les attaquants identifient les noms de paquets fictifs que les LLM recommandent fréquemment pour des tâches de codage, enregistrent ces noms sur des dépôts publics comme npm, PyPI ou RubyGems, et y intègrent un logiciel malveillant . Lorsqu’un développeur demande une solution à un assistant IA, celui-ci suggère avec assurance le paquet fantôme, et le développeur l’installe, se fiant au ton autoritaire de l’IA . Des recherches menées sur 16 modèles ont révélé qu’environ 19,7 % des paquets recommandés par les outils de codage IA étaient entièrement fabriqués — soit plus de 205 000 noms de paquets hallucinés .

Les défenses recommandées par Palo Alto Networks

Palo Alto Networks propose plusieurs couches défensives pour atténuer le risque de phantom squatting :

1. Surveillance proactive des domaines. Les organisations doivent surveiller les domaines suspects de squatting. Les systèmes basés sur les LLM peuvent également être utilisés de manière défensive : une recherche sur DomainLynx a montré qu’un système d’IA composite atteignait 94,7 % de précision sur un jeu de données de 1 649 domaines de squatting, détectant 34 359 domaines de squatting parmi 2,09 millions de nouveaux domaines lors d’un test en conditions réelles d’un mois .

2. Filtrage des nouveaux domaines enregistrés (NRD). Advanced DNS Security de Palo Alto Networks inclut une signature pour les nouveaux domaines enregistrés (UTID 109020001) . Un domaine nouvellement enregistré est un domaine qui a été récemment ajouté par un opérateur de TLD ou qui a changé de propriétaire au cours des 32 derniers jours ; beaucoup sont utilisés pour des activités malveillantes comme l’exploitation de serveurs de commande et de contrôle ou la distribution de logiciels malveillants .

3. Protection au niveau DNS. Les contrôles de sécurité DNS peuvent inspecter ou bloquer le trafic vers des domaines risqués, y compris les NRD souvent abusés dans l’hameçonnage et l’ingénierie sociale . Advanced URL Filtering (AURL), alimenté par Precision AI et des détecteurs d’apprentissage profond en ligne et en temps réel, peut identifier et bloquer les domaines d’hameçonnage jamais vus auparavant dès leur apparition .

4. Formation des utilisateurs et vérification des résultats de l’IA. Les utilisateurs doivent traiter les URL générées par l’IA avec prudence et vérifier les résultats à enjeux élevés par une relecture humaine, des bases de données fiables, des API ou des bases de connaissances organisées . Recouper les réponses du modèle avec des sources faisant autorité est essentiel pour tout cas d’utilisation à enjeux élevés .

5. Garde-fous pour les agents IA. Les agents autonomes et les flux de travail assistés par IA doivent valider les URL générées, les noms de paquets et autres ressources externes auprès de sources fiables avant de les récupérer, de les installer ou d’agir sur eux . Cela est particulièrement important pour les assistants de codage, où la variante du slopsquatting présente un risque direct pour les pipelines de développement .

En résumé

Le phantom squatting est une menace émergente concrète qui transforme une faiblesse connue de l’IA — l’hallucination — en arme contre les utilisateurs qui font confiance aux résultats générés par l’IA . L’attaque exploite précisément ce qui rend les LLM utiles : leur capacité à générer un contenu plausible avec assurance, même lorsque la référence sous-jacente n’existe pas. Pour s’en défendre, les organisations ont besoin d’une approche en couches combinant surveillance proactive des domaines, filtrage DNS/NRD strict, formation des utilisateurs et garde-fous pour les agents IA, traitant les URL générées par l’IA comme non fiables tant qu’elles n’ont pas été vérifiées de manière indépendante .