AI Doxxing：當聊天機器人意外曝光真實電話與住家地址

這種轉變意味著：即使資訊在法律上屬於「公開資料」，AI 也可能把它變成實際的安全風險，例如騷擾電話、詐騙甚至跟蹤。

什麼是「AI Doxxing」

傳統上，「doxxing」（人肉搜尋或曝光個資）通常指刻意把某人的私人資訊公布到網路上，用來騷擾或威脅。

在 AI 時代，這個過程可能被自動化。

使用者只需要用自然語言詢問，例如某人住在哪裡、如何聯絡某個人或公司。有些測試顯示，聊天機器人可能會直接提供 與真實個人相關的電話號碼或住址 。

關鍵問題不一定是 AI 「記得」某人的個資，而是它可能從不同來源重建資訊，例如：

• 政府公開紀錄或公共文件
• 訓練資料中抓取的網頁
• 舊版電話簿或聯絡資料
• 分散在多個網站上的零碎資訊

當 AI 把這些資料整合成單一回答時，個人資訊就比過去更容易被取得 。

聊天機器人為何會洩露個人資料

研究人員與媒體調查指出，AI 可能透過幾種途徑暴露敏感聯絡資訊。

1. 訓練資料包含個資

大型語言模型訓練時使用大量資料，包括網頁、文件與公開紀錄。這些來源有時包含電話或地址。在某些提示下，聊天機器人可能重新生成出資料集中曾出現過的聯絡資訊 。

2. 聚合分散的公開資料

即使資料本來就公開，AI 也能迅速把多個來源整合。原本需要查詢多個資料庫或紀錄的資訊，可能被 AI 直接整理成一段回答 。

3. AI 幻覺或錯誤歸屬

有些案例其實是錯誤答案。AI 可能「編造」或錯誤指派電話號碼，例如把某個人的私人號碼當成企業客服電話 。

4. 逐步提示（prompt chaining）

研究人員發現，如果使用者逐步縮小問題範圍，有時可以繞過安全限制，讓 AI 透露敏感資訊 。

真實案例顯示的影響

雖然目前還沒有完整統計，但多起事件已顯示 AI doxxing 的實際影響。

• 陌生人打電話給受害者：一些人表示接到陌生來電，對方聲稱是在詢問服務資訊時從聊天機器人取得電話號碼，例如法律諮詢或鎖匠服務 。

• 「AI 給我你的電話」騷擾：有受害者表示，多名來電者都說是聊天機器人提供了他的電話，導致長時間被騷擾 。

• 開發者接到錯誤客服電話：一名以色列軟體工程師開始接到大量求助電話，原因是 AI 把他的私人號碼當成客服聯絡方式 。

• 研究人員測試成功取得資料：大學研究者曾透過提示測試，從聊天機器人回覆中取得同事的手機號碼或教授的住家地址 。

• AI 回覆住宅地址：也有調查顯示，一些 AI 在輸入姓名後可能回覆一般人的住家地址 。

這些案例說明，即使只是意外洩露，也可能很快在現實世界造成困擾。

為何 AI 讓「公開資料」變得更危險

在 AI 助手普及之前，許多個人資料其實存在於所謂的 「實際上的隱蔽性」（practical obscurity）。

意思是：資料 technically 是公開的，但很難找到。

例如，要查到某人的地址，可能需要逐一搜尋政府資料庫、舊檔案或多個網站。

AI 聊天機器人則大幅降低了這種搜尋成本。它們可以把自然語言問題轉換成自動搜尋與整理，使原本分散的資料在一個回答中出現 。

因此，有些專家擔心 AI 其實在某種程度上變成 自動化的資料仲介（data broker），讓敏感資訊更容易被取得。

為何問題很難完全修復

一旦個人資料進入 AI 系統，處理起來往往非常困難。

資料來源太多

電話或地址可能同時存在於政府紀錄、網頁、資料庫與訓練資料中。刪除一個來源不代表 AI 不會再次生成類似資訊 。

模型不是資料庫

大型語言模型並不是把資料以表格方式儲存，而是以統計模式學習語言關係，因此很難精準刪除某一筆資料。

過濾機制不完美

許多 AI 系統已加入安全機制來阻止輸出個人聯絡資訊，但不同提示方式或上下文仍可能影響效果 。

個資權利仍不清楚

研究指出，一些 AI 平台的隱私政策難以理解，使用者也不清楚自己的資料是否被使用或如何要求刪除 。

研究者與公司如何應對

為了降低風險，隱私專家與 AI 公司正在嘗試多種措施。

減少敏感資料來源：研究人員建議在訓練時避免使用包含個人聯絡資訊的資料集 。

強化安全測試：開發者可利用專門設計的提示測試 AI 是否會洩露個資，以改善防護機制 。

限制輸出敏感資訊：部分 AI 系統已直接拒絕提供私人電話號碼或住宅地址，即使這些資訊在公開紀錄中存在 。

建立申訴與移除機制：專家建議設立更清楚的通報與刪除流程，讓個人能快速要求移除資料 。

然而，由於訓練資料規模龐大且模型結構複雜，完全消除這類風險仍然相當困難。

更大的隱私議題

AI doxxing 其實反映了一個更廣泛的問題：生成式 AI 讓原本難以取得的資訊變得極度容易搜尋。

這並不一定代表資料本身是秘密，但 AI 的速度、自動化能力與對話式介面，可能放大資訊被濫用的風險。

隨著 AI 助手逐漸整合進搜尋引擎、訊息應用與日常工具，研究人員認為未來可能需要更明確的隱私規範與技術防護，才能避免敏感個資被意外曝光 。