AI doxxing: Khi chatbot vô tình tiết lộ số điện thoại và địa chỉ nhà của người thật

Điều đáng chú ý là AI không nhất thiết “biết” thông tin riêng tư theo nghĩa truyền thống. Nó có thể tái tạo hoặc suy ra thông tin từ:

• hồ sơ công khai và tài liệu chính phủ
• các trang web được thu thập khi huấn luyện mô hình
• danh bạ hoặc danh sách liên hệ cũ
• dữ liệu rời rạc từ nhiều nguồn khác nhau

Khi AI ghép các mảnh dữ liệu này lại, thông tin cá nhân có thể được lộ ra dễ dàng hơn rất nhiều so với cách tìm kiếm truyền thống .

Vì sao chatbot lại tiết lộ dữ liệu cá nhân?

Các cuộc điều tra và thử nghiệm của người dùng cho thấy vài con đường phổ biến khiến chatbot vô tình làm lộ thông tin nhạy cảm.

1. Dữ liệu huấn luyện có chứa thông tin cá nhân

Các mô hình ngôn ngữ lớn được huấn luyện trên kho dữ liệu khổng lồ gồm trang web, tài liệu lưu trữ và hồ sơ công khai. Một số nguồn trong đó có thể chứa thông tin liên hệ cá nhân. Trong một số trường hợp, chatbot đã tái tạo lại số điện thoại hoặc địa chỉ xuất hiện trong dữ liệu này .

2. Tổng hợp dữ liệu công khai từ nhiều nguồn

Ngay cả khi thông tin là công khai, AI có thể tổng hợp rất nhanh. Thay vì phải tra cứu nhiều cơ sở dữ liệu, chatbot có thể đưa thông tin ra trong một câu trả lời duy nhất .

3. “Hallucination” hoặc gán nhầm

Không phải lúc nào AI cũng truy xuất đúng dữ liệu. Đôi khi mô hình tự tạo hoặc gán nhầm thông tin, chẳng hạn gắn số điện thoại của một cá nhân vào doanh nghiệp hoặc dịch vụ nào đó .

4. Chuỗi câu hỏi gợi mở (prompt chaining)

Một số nghiên cứu cho thấy nếu người dùng đặt câu hỏi theo từng bước, dần dần thu hẹp thông tin, họ có thể khiến chatbot tiết lộ dữ liệu mà bộ lọc ban đầu đáng lẽ phải chặn .

Những trường hợp thực tế đã xảy ra

Dù chưa có số liệu toàn diện, nhiều báo cáo cho thấy hậu quả thực tế của AI doxxing.

• Bị gọi điện liên tục từ người lạ: Một số nạn nhân cho biết họ nhận nhiều cuộc gọi từ người lạ nói rằng họ lấy số từ chatbot khi tìm dịch vụ như luật sư hoặc thợ khóa .
• “AI đưa tôi số của anh”: Một người cho biết người gọi liên tục nói chatbot đã cung cấp số của anh như đường dây liên hệ cho dịch vụ không liên quan .
• Lập trình viên nhận cuộc gọi hỗ trợ khách hàng: Một nhà phát triển phần mềm ở Israel được cho là nhận nhiều cuộc gọi hỗ trợ vì AI cung cấp nhầm số cá nhân của anh làm số dịch vụ .
• Nhà nghiên cứu trích xuất dữ liệu cá nhân: Thử nghiệm của các nhà nghiên cứu đại học cho thấy chatbot đôi khi có thể tiết lộ số điện thoại của đồng nghiệp hoặc địa chỉ nhà của giáo sư khi được hỏi theo cách phù hợp .
• Chatbot cung cấp địa chỉ nhà: Một số điều tra cũng ghi nhận chatbot trả về địa chỉ nhà của cá nhân khi người dùng nhập tên của họ .

Những trường hợp này cho thấy ngay cả lỗi vô tình cũng có thể dẫn đến hậu quả ngoài đời thực.

Vì sao dữ liệu “công khai nhưng khó tìm” trở nên nguy hiểm

Trước khi có trợ lý AI, nhiều thông tin cá nhân tồn tại trong trạng thái gọi là “mơ hồ thực tế” (practical obscurity)—tức là về mặt kỹ thuật là công khai nhưng rất khó tìm.

Ví dụ, để tìm địa chỉ của ai đó, bạn có thể phải tra nhiều cơ sở dữ liệu chính phủ hoặc trang lưu trữ cũ.

Chatbot AI giảm đáng kể rào cản này: chỉ cần hỏi bằng ngôn ngữ tự nhiên, hệ thống có thể tự động tìm và tóm tắt thông tin. Vì vậy, dữ liệu từng nằm sâu trong hồ sơ giờ có thể xuất hiện ngay lập tức trong một câu trả lời .

Một số chuyên gia cảnh báo rằng điều này khiến chatbot hoạt động giống như “data broker tự động”—tức là công cụ môi giới dữ liệu quy mô lớn.

Vì sao vấn đề này rất khó khắc phục

Việc loại bỏ dữ liệu cá nhân khỏi hệ thống AI không hề đơn giản.

Dữ liệu xuất hiện ở nhiều nơi

Một số điện thoại hoặc địa chỉ có thể tồn tại trong nhiều nguồn: kho lưu trữ web, hồ sơ chính phủ, danh bạ hoặc tập dữ liệu huấn luyện. Xóa ở một nơi không đảm bảo AI sẽ ngừng tạo ra thông tin tương tự .

Mô hình AI không lưu dữ liệu như cơ sở dữ liệu

Mô hình ngôn ngữ lưu trữ kiến thức dưới dạng mẫu thống kê, chứ không phải bảng dữ liệu rõ ràng. Điều này khiến việc xóa hoặc chỉnh sửa một mục cụ thể sau khi huấn luyện trở nên khó khăn.

Bộ lọc không hoàn hảo

Nhiều công ty AI thêm bộ lọc để chặn yêu cầu về thông tin cá nhân. Tuy nhiên, các báo cáo cho thấy hiệu quả có thể thay đổi tùy cách đặt câu hỏi hoặc ngữ cảnh .

Quyền dữ liệu chưa rõ ràng

Theo nghiên cứu, chính sách quyền riêng tư của các chatbot đôi khi khó hiểu, khiến người dùng không rõ dữ liệu của họ được dùng thế nào hoặc làm sao yêu cầu xóa .

Các chuyên gia và công ty đang làm gì?

Để giảm rủi ro, giới nghiên cứu và các công ty AI đang thử nhiều giải pháp.

Giảm dữ liệu nhạy cảm trong huấn luyện: Một số chuyên gia đề xuất loại bỏ các nguồn có khả năng chứa thông tin liên hệ cá nhân trước khi huấn luyện mô hình .

Kiểm thử bảo mật mạnh hơn: Các hệ thống AI có thể được “red‑team” bằng những câu hỏi được thiết kế để kích hoạt hành vi doxxing nhằm cải thiện biện pháp bảo vệ .

Chặn kết quả nhạy cảm: Một số chatbot hiện từ chối cung cấp số điện thoại cá nhân hoặc địa chỉ nhà, ngay cả khi dữ liệu đó từng xuất hiện công khai .

Cơ chế báo cáo nhanh hơn: Các chuyên gia cũng đề xuất quy trình rõ ràng để người bị lộ thông tin có thể yêu cầu gỡ bỏ hoặc sửa dữ liệu .

Dù vậy, với quy mô dữ liệu huấn luyện khổng lồ và cấu trúc phức tạp của mô hình AI, việc loại bỏ hoàn toàn nguy cơ này vẫn là thách thức lớn.

Câu hỏi lớn hơn về quyền riêng tư

Sự xuất hiện của AI doxxing đặt ra một vấn đề rộng hơn: AI tạo sinh có thể biến thông tin vốn khó tìm thành thứ cực kỳ dễ tiếp cận.

Điều đó không có nghĩa dữ liệu trước đây là bí mật—nhưng tốc độ, tự động hóa và giao diện trò chuyện của AI có thể làm tăng mạnh tác động khi thông tin cá nhân bị lộ.

Khi trợ lý AI ngày càng xuất hiện trong công cụ tìm kiếm, ứng dụng nhắn tin và nhiều dịch vụ hàng ngày, nhiều nhà nghiên cứu cho rằng cần quy định rõ ràng hơn và biện pháp bảo vệ mạnh hơn để tránh việc dữ liệu nhạy cảm bị lộ ngoài ý muốn .