AI Doxxing: เมื่อแชตบอตเปิดเผยเบอร์โทรและที่อยู่บ้านของคนจริง

โดยปกติ AI ไม่ได้ “เก็บข้อมูลส่วนตัว” เหมือนฐานข้อมูล แต่ข้อมูลอาจถูกสร้างหรือดึงมาจากหลายแหล่ง เช่น

• บันทึกสาธารณะหรือเอกสารราชการ
• เว็บไซต์ที่ถูกเก็บรวบรวมระหว่างการฝึกโมเดล
• ไดเรกทอรีหรือสมุดรายชื่อเก่าบนอินเทอร์เน็ต
• ข้อมูลที่กระจัดกระจายอยู่ในหลายเว็บไซต์

เมื่อ AI รวมข้อมูลเหล่านี้เข้าด้วยกันในคำตอบเดียว จึงทำให้ข้อมูลส่วนบุคคลถูกเปิดเผยได้ง่ายกว่าการค้นหาแบบเดิม

ทำไมแชตบอตถึงเปิดเผยข้อมูลส่วนบุคคล

รายงานการทดสอบและเหตุการณ์จริงพบว่ามีหลายสาเหตุที่ทำให้ AI แสดงข้อมูลติดต่อที่ละเอียดอ่อน

1. ข้อมูลฝึกมีข้อมูลส่วนบุคคลอยู่แล้ว

โมเดลภาษา (LLM) ถูกฝึกด้วยข้อมูลจำนวนมหาศาล ซึ่งอาจรวมถึงเว็บไซต์ เอกสารเก่า หรือบันทึกของรัฐบาล บางแหล่งมีเบอร์โทรหรือที่อยู่ของบุคคลอยู่ และบางครั้ง AI ก็สามารถสร้างคำตอบที่มีข้อมูลเหล่านั้นได้

2. การรวมข้อมูลจากหลายแหล่ง

แม้ข้อมูลจะเป็นข้อมูลสาธารณะ แต่ AI สามารถรวบรวมจากหลายฐานข้อมูลได้ทันที แทนที่จะต้องค้นหาเอกสารหรือเว็บไซต์หลายแห่งด้วยตนเอง ผู้ใช้จึงเห็นข้อมูลรวมอยู่ในคำตอบเดียว

3. การ “hallucination” หรือการระบุผิด

บางกรณี AI ไม่ได้ดึงข้อมูลจริง แต่ สร้างคำตอบที่ผิดพลาด เช่น นำเบอร์โทรของคนจริงไปใส่เป็นเบอร์ติดต่อของบริษัทหรือบริการบางอย่างโดยไม่ตั้งใจ

4. การถามต่อเนื่องหลายขั้น

นักวิจัยพบว่าการปรับคำถามทีละขั้นหรือถามต่อเนื่องสามารถทำให้ AI เปิดเผยข้อมูลที่ระบบกรองความปลอดภัยพยายามปิดไว้ได้

เหตุการณ์จริงที่แสดงผลกระทบ

แม้ข้อมูลเชิงสถิติยังมีจำกัด แต่มีหลายเหตุการณ์ที่แสดงให้เห็นผลกระทบจริง

• คนแปลกหน้าโทรหาผู้เสียหาย หลังได้เบอร์จากแชตบอต ขณะค้นหาบริการ เช่น ทนายหรือช่างกุญแจ
• ผู้เสียหายบางคนบอกว่าคนที่โทรมักพูดว่า “AI ให้เบอร์คุณมา” เพราะแชตบอตระบุเบอร์ของเขาเป็นเบอร์ติดต่อบริการอื่น
• นักพัฒนาซอฟต์แวร์ในอิสราเอลรายหนึ่งเริ่มได้รับสายจากลูกค้าจำนวนมาก หลัง AI ให้เบอร์ส่วนตัวของเขาเป็นเบอร์บริการลูกค้า
• นักวิจัยมหาวิทยาลัยสามารถใช้คำถามกับแชตบอตเพื่อดึงเบอร์มือถือของเพื่อนร่วมงานหรือที่อยู่บ้านของอาจารย์ได้ในการทดลอง
• การตรวจสอบบางกรณีพบว่าแชตบอตสามารถตอบ ที่อยู่บ้านของบุคคลทั่วไป ได้เมื่อป้อนชื่อเข้าไป

เหตุการณ์เหล่านี้แสดงให้เห็นว่าการเปิดเผยข้อมูลแม้เพียงครั้งเดียวก็อาจนำไปสู่ผลกระทบในชีวิตจริงได้อย่างรวดเร็ว

ทำไมข้อมูลที่ “หาได้ยาก” กลายเป็นความเสี่ยง

ก่อนยุค AI ข้อมูลส่วนบุคคลจำนวนมากอยู่ในสภาพที่เรียกว่า “practical obscurity”

หมายความว่าข้อมูลอาจเป็นสาธารณะ แต่ต้องใช้เวลามากในการค้นหา เช่น ต้องค้นฐานข้อมูลของรัฐหลายแห่งหรือดูเอกสารเก่า

แชตบอต AI ลดขั้นตอนทั้งหมดเหล่านั้น ผู้ใช้เพียงถามด้วยภาษาธรรมชาติ ระบบก็สามารถค้นหาและสรุปข้อมูลให้ทันที

นักวิจัยบางคนจึงมองว่า AI อาจทำหน้าที่คล้าย “นายหน้าข้อมูลอัตโนมัติ” ที่ทำให้ข้อมูลละเอียดอ่อนเข้าถึงได้ง่ายขึ้น

ทำไมการแก้ปัญหานี้จึงยาก

การลบข้อมูลส่วนบุคคลออกจากระบบ AI ไม่ใช่เรื่องง่าย

ข้อมูลอยู่หลายแหล่ง

เบอร์โทรหรือที่อยู่อาจปรากฏในหลายที่ เช่น เว็บไซต์ เอกสารราชการ หรือคลังข้อมูลฝึก การลบจากแหล่งหนึ่งไม่ได้หมายความว่าจะหายไปทั้งหมด

โมเดลไม่ได้เก็บข้อมูลเหมือนฐานข้อมูล

โมเดลภาษาเรียนรู้เป็นรูปแบบทางสถิติ ไม่ได้เก็บข้อมูลเป็นรายการชัดเจน ทำให้การลบข้อมูลเฉพาะจุดหลังฝึกเสร็จทำได้ยาก

ตัวกรองยังไม่สมบูรณ์

บริษัท AI มักเพิ่มระบบกรองเพื่อบล็อกคำถามเกี่ยวกับข้อมูลส่วนบุคคล แต่รายงานพบว่าประสิทธิภาพอาจแตกต่างกันตามรูปแบบคำถามหรือบริบท

สิทธิด้านข้อมูลยังไม่ชัดเจน

งานวิจัยด้านนโยบายข้อมูลชี้ว่าผู้ใช้จำนวนมากยังไม่เข้าใจว่าข้อมูลของตนถูกใช้หรือเก็บอย่างไร และจะขอให้ลบออกได้อย่างไร

ผู้เชี่ยวชาญและบริษัทกำลังรับมืออย่างไร

นักวิจัยด้านความเป็นส่วนตัวและบริษัทเทคโนโลยีกำลังทดลองวิธีลดความเสี่ยง เช่น

• ลดการใช้ข้อมูลที่มีข้อมูลส่วนบุคคล ในชุดข้อมูลฝึก
• ทดสอบระบบด้วยคำถามที่เสี่ยงต่อการ doxxing เพื่อปรับปรุงมาตรการป้องกัน
• ปฏิเสธการตอบคำถามที่เกี่ยวกับเบอร์โทรหรือที่อยู่ของบุคคลทั่วไป แม้ข้อมูลจะมีอยู่ในแหล่งสาธารณะ
• สร้างช่องทางร้องเรียนและลบข้อมูลได้เร็วขึ้น สำหรับผู้ที่พบว่าข้อมูลของตนถูกเผยแพร่

อย่างไรก็ตาม ด้วยขนาดของข้อมูลฝึกและความซับซ้อนของโมเดล AI ผู้เชี่ยวชาญจำนวนมากเห็นว่าการกำจัดความเสี่ยงนี้ทั้งหมดอาจทำได้ยาก

คำถามใหญ่เรื่องความเป็นส่วนตัวในยุค AI

กรณี AI doxxing สะท้อนความท้าทายใหม่ของเทคโนโลยี generative AI

ข้อมูลจำนวนมากอาจไม่ใช่ความลับ แต่เมื่อ AI สามารถค้นหา สรุป และตอบกลับได้ทันทีผ่านบทสนทนา ผลกระทบของข้อมูลเหล่านั้นก็เพิ่มขึ้นอย่างมาก

เมื่อผู้ช่วย AI ถูกฝังอยู่ในเครื่องมือค้นหา แอปแชต และบริการออนไลน์มากขึ้น นักวิจัยเตือนว่าจำเป็นต้องมีมาตรการป้องกันและกฎความเป็นส่วนตัวที่ชัดเจน เพื่อป้องกันไม่ให้ข้อมูลส่วนบุคคลของผู้คนถูกเปิดเผยโดยไม่ตั้งใจ