AI Doxxing: quando chatbots expõem telefone e endereço de pessoas reais

Os chatbots de inteligência artificial generativa foram criados para responder perguntas rapidamente e resumir informações de enormes conjuntos de dados. Mas essa capacidade trouxe um novo problema de privacidade conhecido como “AI doxxing.”

O termo descreve situações em que um sistema de IA revela ou reconstrói informações pessoais — como número de telefone ou endereço residencial — sobre alguém sem o consentimento dessa pessoa. Investigações indicam que alguns chatbots conseguem encontrar esses dados em registros públicos, bases usadas no treinamento ou fragmentos espalhados pela internet, transformando algo antes difícil de localizar em uma resposta imediata dentro de um chat .

Esse processo pode transformar informações “tecnicamente públicas” em riscos práticos, como assédio, golpes ou perseguição.

O que significa “AI doxxing”

Tradicionalmente, doxxing é a prática de divulgar dados pessoais de alguém na internet para intimidar ou causar dano. Com a IA, parte desse processo pode acontecer de forma automatizada.

Em vez de pesquisar em vários sites e bases de dados, um usuário pode simplesmente perguntar a um chatbot algo como quem mora em determinado endereço ou qual é o telefone de uma pessoa ou empresa. Em alguns testes e relatos, sistemas de IA responderam com números de telefone reais ou endereços residenciais ligados a indivíduos privados .

Isso não significa necessariamente que o modelo “guarde” esses dados como um banco de dados tradicional. Em muitos casos, ele pode reconstruí‑los ou encontrá‑los a partir de:

• registros públicos e documentos governamentais
• páginas da web coletadas durante o treinamento
• listas de contatos ou diretórios antigos
• fragmentos de dados espalhados por diferentes sites

Quando a IA reúne esses pedaços em uma única resposta, o resultado é que dados pessoais ficam muito mais fáceis de acessar do que antes .

Como os chatbots acabam revelando dados pessoais

Relatórios e testes de pesquisadores apontam vários caminhos pelos quais essas informações podem aparecer em respostas de IA.

1. Dados pessoais presentes no treinamento

Modelos de linguagem são treinados com enormes volumes de dados da internet, incluindo páginas arquivadas, documentos públicos e registros governamentais. Alguns desses materiais contêm números de telefone ou endereços, que podem acabar sendo reproduzidos em determinadas respostas .

2. Combinação de registros públicos espalhados

Mesmo quando os dados são públicos, a IA pode agregá‑los em segundos. Em vez de exigir múltiplas buscas em cartórios, registros de imóveis ou diretórios online, o chatbot pode apresentar tudo diretamente em uma única resposta .

3. Alucinações ou atribuições erradas

Em alguns casos, a IA não está recuperando o dado correto — ela simplesmente erra. Isso pode resultar em um número real sendo associado a um serviço, empresa ou instituição que não tem relação com aquela pessoa .

4. Encadeamento de prompts

Pesquisadores demonstraram que perguntas feitas em etapas podem às vezes contornar filtros de segurança. Ao refinar gradualmente a pergunta, alguns usuários conseguem fazer o sistema revelar informações que inicialmente seriam bloqueadas .

Casos reais mostrando o impacto

Embora ainda faltem estatísticas amplas, vários episódios relatados mostram como o AI doxxing pode afetar pessoas comuns.

• Estranhos ligando após encontrar números em IA: algumas vítimas relatam receber ligações de pessoas que dizem ter obtido o número em um chatbot enquanto buscavam serviços como advogados ou chaveiros .

• “A IA me deu seu número”: um homem relatou receber chamadas constantes de desconhecidos dizendo que um chatbot havia indicado seu telefone como contato para serviços que ele nunca ofereceu .

• Chamadas de suporte enviadas por engano: em outro caso, um desenvolvedor de software em Israel começou a receber ligações de clientes procurando atendimento porque um sistema de IA forneceu seu número pessoal como contato de suporte .

• Pesquisadores extraindo dados pessoais: estudantes de doutorado da Universidade de Washington conseguiram obter o número de celular de um colega e o endereço residencial de um professor a partir de interações com chatbots durante testes acadêmicos .

• Chatbots revelando endereços residenciais: investigações também apontaram sistemas de IA que retornaram endereços de pessoas privadas quando solicitados pelo nome .

Esses casos mostram que, mesmo quando não há intenção maliciosa, o resultado pode gerar consequências reais para quem teve seus dados expostos.

Por que dados “publicamente obscuros” ficam mais perigosos com IA

Antes dos assistentes de IA, muitas informações pessoais existiam em uma espécie de “obscuridade prática.”

Elas podiam até ser públicas — mas encontrar exigia tempo, contexto e várias buscas em diferentes bases de dados.

Chatbots mudam isso porque transformam perguntas em linguagem natural em buscas automatizadas e resumos instantâneos. Assim, dados antes escondidos em registros antigos ou dispersos podem aparecer imediatamente em uma única resposta .

Por isso, alguns pesquisadores alertam que sistemas de IA podem acabar funcionando como corretores automatizados de dados, facilitando o acesso a informações sensíveis em grande escala.

Por que é tão difícil corrigir o problema

Eliminar completamente esse tipo de exposição é tecnicamente complicado por vários motivos.

Dados espalhados em muitos lugares

Um número de telefone pode aparecer em arquivos governamentais, diretórios online, bancos de dados históricos ou páginas arquivadas da internet. Remover um deles não garante que o modelo nunca reproduzirá informação semelhante .

Modelos não armazenam dados como bancos de dados

Modelos de linguagem codificam padrões estatísticos durante o treinamento. Depois que esses padrões estão incorporados, remover uma informação específica pode ser difícil.

Filtros de segurança imperfeitos

Empresas adicionam barreiras para bloquear pedidos de números pessoais ou endereços. Ainda assim, relatórios mostram que esses filtros podem falhar dependendo da forma como a pergunta é feita ou refinada .

Direitos de dados ainda pouco claros

Pesquisadores apontam que as políticas de privacidade de muitos sistemas de IA são difíceis de entender, o que deixa usuários sem saber exatamente como seus dados são usados ou como pedir a remoção deles .

Como pesquisadores e empresas estão reagindo

Especialistas em privacidade e desenvolvedores de IA vêm discutindo várias formas de reduzir os riscos.

Minimização de dados: pesquisadores defendem que conjuntos de treinamento evitem, sempre que possível, fontes que contenham informações de contato pessoais .

Testes de segurança mais rigorosos: empresas podem submeter sistemas a testes com prompts projetados para tentar provocar vazamentos de dados pessoais .

Bloqueio de saídas sensíveis: alguns chatbots já recusam fornecer números de telefone pessoais ou endereços residenciais, mesmo quando essas informações existem publicamente .

Canais rápidos de denúncia e remoção: especialistas recomendam processos claros para que pessoas afetadas possam solicitar a retirada de seus dados das respostas de IA .

Ainda assim, o enorme volume de dados usados no treinamento e a complexidade dos modelos significam que eliminar totalmente o risco continua sendo um desafio.

Uma nova fronteira para a privacidade digital

O surgimento do AI doxxing evidencia um dilema maior: a IA generativa pode tornar informações obscuras extremamente fáceis de encontrar.

Isso não significa necessariamente que os dados eram secretos. Mas a velocidade, a automação e a interface conversacional dos chatbots podem amplificar os impactos quando dados pessoais aparecem.

À medida que assistentes de IA se integram a buscadores, aplicativos de mensagens e ferramentas do dia a dia, pesquisadores alertam que serão necessárias salvaguardas mais fortes e regras mais claras de privacidade para evitar que dados sensíveis de pessoas comuns apareçam em respostas automatizadas .