AI doxxing : comment des chatbots exposent parfois les coordonnées de vraies personnes

Cela ne signifie pas nécessairement que les modèles « connaissent » directement ces informations. Ils peuvent plutôt les reconstruire à partir de différentes sources :

• registres publics ou documents administratifs
• pages web collectées lors de l’entraînement
• anciens annuaires ou listings de contacts
• fragments de données dispersés sur plusieurs sites

En combinant ces éléments dans une réponse unique, l’IA peut rendre ces informations beaucoup plus faciles à trouver qu’avec une recherche classique .

Comment les chatbots peuvent révéler ces données

Les analyses et tests réalisés par des chercheurs montrent plusieurs mécanismes possibles.

1. Des données personnelles dans les jeux d’entraînement

Les grands modèles de langage sont entraînés sur d’immenses ensembles de données comprenant des pages web, des documents archivés ou des registres publics. Certains de ces documents contiennent des coordonnées personnelles. Dans certaines requêtes, les chatbots peuvent reproduire des numéros de téléphone ou des adresses présents dans ces sources .

2. L’agrégation de données publiques

Même lorsque les informations sont légalement publiques, l’IA peut les regrouper très rapidement. Ce qui exigeait autrefois plusieurs recherches dans des registres fonciers, annuaires ou bases de données peut apparaître directement dans une réponse automatisée .

3. Hallucinations et erreurs d’attribution

Dans certains cas, le problème ne vient pas d’une récupération exacte des données mais d’une erreur. L’IA peut inventer un numéro ou associer par erreur le vrai numéro d’une personne à un service ou à une entreprise .

4. Les requêtes progressives (prompt chaining)

Des chercheurs ont également montré qu’en affinant progressivement les questions, il est parfois possible de contourner certains filtres de sécurité et d’obtenir des informations plus sensibles .

Des exemples concrets de conséquences

Même si les études systématiques restent limitées, plusieurs incidents rapportés illustrent les effets réels du phénomène.

• Des appels d’inconnus obtenus via un chatbot : certaines personnes disent recevoir des appels d’étrangers affirmant avoir trouvé leur numéro dans la réponse d’un chatbot en cherchant un service (avocat, serrurier, etc.) .

• « L’IA m’a donné votre numéro » : un témoin explique que des appelants répétaient cette phrase après qu’un chatbot eut fourni son numéro comme contact pour des services sans rapport, entraînant des appels incessants .

• Un développeur contacté par erreur : dans un cas rapporté, un développeur israélien a commencé à recevoir des appels de clients cherchant une assistance technique après qu’un système d’IA eut fourni son numéro personnel comme contact d’entreprise .

• Des tests universitaires révélant des données : des chercheurs ont réussi à extraire via un chatbot le numéro d’un collègue ou l’adresse d’un professeur en utilisant certaines requêtes .

• Des adresses résidentielles divulguées : certaines enquêtes indiquent que des chatbots ont parfois renvoyé l’adresse privée de particuliers lorsqu’on leur demandait où habitait une personne .

Le problème de « l’obscurité pratique »

Avant l’arrivée des assistants IA, beaucoup d’informations personnelles étaient techniquement publiques mais difficiles à trouver. Les spécialistes parlent d’« obscurité pratique ».

Par exemple, retrouver l’adresse d’une personne pouvait nécessiter de consulter plusieurs bases de données administratives ou archives en ligne.

Les chatbots réduisent fortement cette barrière : ils transforment une simple question en recherche et synthèse automatisées. Une information autrefois enfouie dans des archives peut ainsi apparaître instantanément dans une réponse .

Certains experts craignent donc que les assistants IA deviennent, de fait, des courtiers en données automatisés, capables de rendre ces informations accessibles à grande échelle.

Pourquoi le problème est difficile à corriger

Corriger ce type de fuite n’est pas simple pour plusieurs raisons techniques.

Des données dispersées

Un numéro de téléphone ou une adresse peut exister dans de nombreux endroits : archives web, documents publics, annuaires, bases de données. Supprimer une seule source ne suffit pas toujours à empêcher le modèle de reproduire l’information .

Les modèles ne stockent pas les données comme une base

Les modèles d’IA n’enregistrent pas les informations sous forme de lignes dans une base de données. Ils apprennent des motifs statistiques, ce qui rend la suppression ciblée d’un élément précis beaucoup plus complexe.

Des filtres encore imparfaits

Les entreprises ajoutent souvent des filtres pour bloquer les demandes de coordonnées personnelles. Mais les enquêtes suggèrent que leur efficacité peut varier selon la formulation ou le contexte de la question .

Des droits de données parfois flous

Des chercheurs soulignent aussi que les politiques de confidentialité des systèmes d’IA restent difficiles à comprendre pour les utilisateurs, qui ne savent pas toujours comment leurs données sont utilisées ou comment demander leur suppression .

Les réponses envisagées

Face à ces risques, chercheurs et entreprises explorent plusieurs pistes.

Limiter les données sensibles dans l’entraînement : certains experts recommandent d’exclure autant que possible les sources contenant des coordonnées personnelles .

Tester les systèmes contre les abus : des équipes de recherche réalisent des tests de sécurité avec des requêtes conçues pour provoquer des comportements de doxxing afin d’améliorer les protections .

Bloquer certaines réponses : plusieurs systèmes refusent désormais de fournir des numéros de téléphone privés ou des adresses résidentielles, même si ces informations existent publiquement .

Mettre en place des procédures de signalement : des spécialistes appellent à créer des mécanismes simples pour que les personnes concernées puissent demander rapidement la suppression ou le blocage de leurs données .

Une question de vie privée plus large

L’« AI doxxing » illustre un défi plus global : les outils d’IA peuvent rendre des informations auparavant difficiles à trouver immédiatement accessibles.

Cela ne signifie pas que ces données étaient secrètes. Mais la vitesse, l’automatisation et l’interface conversationnelle des chatbots peuvent amplifier leur impact lorsque des informations personnelles apparaissent.

À mesure que les assistants IA s’intègrent dans les moteurs de recherche, les messageries et de nombreux services numériques, plusieurs chercheurs estiment que des règles de protection des données plus claires et des garde‑fous techniques plus solides seront nécessaires pour limiter les risques d’exposition involontaire .