AI 도싱(AI Doxxing): 챗봇이 개인 전화번호와 집 주소를 노출하는 문제

AI가 이런 데이터를 하나의 답변으로 합쳐버리면, 기존 검색보다 훨씬 쉽게 개인 정보가 드러날 수 있다 .

챗봇이 개인 정보를 노출하는 주요 경로

조사와 사용자 보고를 보면 AI 시스템이 민감한 연락처 정보를 노출하는 방식은 몇 가지 유형으로 나뉜다.

1. 학습 데이터에 포함된 개인 정보

대형 언어 모델은 웹 문서, 아카이브, 정부 기록 등 방대한 데이터를 학습한다. 이 자료들 중 일부에는 실제 전화번호나 주소가 포함돼 있다. 특정 질문을 받았을 때 챗봇이 이런 정보를 그대로 재생산하는 경우가 보고됐다 .

2. 여러 공공 기록을 자동으로 결합

정보가 기술적으로는 공개돼 있어도 찾기 어려운 경우가 많다. 하지만 AI는 여러 데이터베이스나 기록을 빠르게 결합해 한 번의 답변으로 정리해 제공할 수 있다 .

3. ‘환각(Hallucination)’이나 잘못된 연결

일부 사례는 실제 데이터를 검색한 것이 아니라 잘못된 추론에서 발생했다. 예를 들어 챗봇이 한 개인의 전화번호를 회사나 서비스 연락처처럼 잘못 연결해 제시한 사례가 보고됐다 .

4. 단계적으로 질문을 좁히는 프롬프트

연구자들은 질문을 단계적으로 좁혀 가면 초기 필터를 우회해 민감한 정보를 끌어낼 수 있는 경우도 발견했다 .

실제 피해 사례

아직 대규모 통계는 많지 않지만, 여러 사건이 이미 보고되고 있다.

• “AI가 당신 번호를 줬다”는 전화: 어떤 피해자는 낯선 사람들이 전화해 "챗봇이 이 번호를 서비스 연락처라고 알려줬다"고 말하며 연락해왔다고 밝혔다 .

• 원치 않는 상담 전화 폭주: 법률 상담이나 열쇠공 서비스를 찾던 사람들이 챗봇에서 얻은 번호로 전화를 걸어, 전혀 관련 없는 개인에게 전화가 몰린 사례도 보고됐다 .

• 개발자에게 쏟아진 고객 문의 전화: 한 이스라엘 소프트웨어 개발자는 AI가 그의 개인 번호를 서비스 연락처로 제시한 뒤부터 고객 문의 전화를 계속 받게 됐다 .

• 연구자가 개인 연락처 추출: 대학 연구진 실험에서 챗봇을 이용해 동료의 휴대전화 번호나 교수의 집 주소를 찾아낼 수 있었다는 사례도 있다 .

• 집 주소 노출 사례: 일부 조사에서는 AI가 이름만 입력해도 일반인의 주거 주소를 응답으로 제공한 경우도 보고됐다 .

이러한 사건들은 단순한 오류가 실제 생활의 피해로 이어질 수 있다는 점을 보여준다.

AI 시대에 ‘공개 정보’가 더 위험해지는 이유

AI 등장 이전에는 많은 개인 정보가 ‘실질적 익명성(practical obscurity)’ 상태에 있었다.

즉, 이론적으로는 공개돼 있지만 찾으려면 많은 시간과 노력이 필요했다.

예를 들어 주소나 전화번호를 찾으려면 여러 정부 데이터베이스나 오래된 웹 페이지를 직접 뒤져야 했다.

하지만 AI 챗봇은 자연어 질문을 자동 검색과 요약으로 바꾸면서 이런 장벽을 거의 없애 버린다. 그 결과 예전에는 찾기 어려웠던 정보가 즉시 드러나는 상황이 만들어진다 .

이 때문에 일부 전문가들은 AI 시스템이 사실상 자동화된 데이터 브로커처럼 작동할 수 있다고 우려한다.

이 문제가 해결하기 어려운 이유

AI 도싱 문제는 기술적으로 간단히 해결하기 어렵다.

데이터가 여러 곳에 존재

전화번호나 주소는 웹 기록, 공공 데이터, 디렉터리 등 다양한 곳에 존재한다. 한 곳에서 삭제해도 다른 데이터에서 다시 등장할 수 있다 .

AI 모델은 데이터베이스처럼 작동하지 않음

대형 언어 모델은 정보를 표 형태로 저장하지 않는다. 대신 통계적 패턴으로 학습하기 때문에 특정 데이터를 정확히 삭제하거나 수정하기가 쉽지 않다.

필터가 완벽하지 않음

AI 기업들은 개인 연락처 요청을 차단하는 필터를 도입하고 있지만, 질문 방식이나 문맥에 따라 차단이 일관되지 않을 수 있다는 보고가 있다 .

데이터 권리와 정책의 불확실성

연구자들은 AI 서비스의 개인정보 정책이 복잡하고 불명확해 사용자들이 자신의 데이터가 어떻게 사용되는지 또는 삭제를 요청할 수 있는지 이해하기 어렵다고 지적한다 .

전문가와 기업의 대응

프라이버시 전문가와 AI 개발자들은 몇 가지 대응 방법을 모색하고 있다.

데이터 최소화 전략
훈련 데이터에서 개인 연락처가 포함될 가능성이 높은 자료를 최대한 제외해야 한다는 주장이 나온다 .

강화된 테스트와 레드팀 실험
도싱을 유발할 수 있는 질문을 지속적으로 테스트해 안전 장치를 강화하는 방식이다 .

민감 정보 출력 차단
일부 AI 시스템은 공공 정보라도 개인 전화번호나 주거 주소 요청을 거부하도록 설계되고 있다 .

신속한 신고·삭제 절차
챗봇 응답에 자신의 정보가 등장한 사람이 빠르게 신고하고 삭제 요청을 할 수 있는 절차를 마련하자는 제안도 있다 .

다만 AI 모델의 구조와 데이터 규모 때문에 위험을 완전히 제거하는 것은 쉽지 않다는 것이 현재 전문가들의 공통된 평가다.

더 큰 프라이버시 질문

AI 도싱 논란은 단순한 기술 오류 이상의 문제를 보여준다.

생성형 AI는 기존에 존재하던 정보를 훨씬 더 빠르고 쉽게 찾아낼 수 있게 만든다. 데이터가 비밀이 아니었더라도, AI의 자동화된 검색과 대화형 인터페이스가 그 영향을 크게 확대할 수 있다.

AI 비서가 검색, 메시징 앱, 업무 도구 등 일상 서비스에 점점 깊이 들어가면서 전문가들은 더 강력한 개인정보 보호 규칙과 기술적 안전장치가 필요하다고 경고하고 있다 .