Project Lily: เมื่อแชต ChatGPT อาจถูกมนุษย์นำไปตรวจเพื่อพัฒนาโมเดล

รายงานสืบสวนของ 404 Media เกี่ยวกับโครงการภายใน OpenAI ที่เรียกว่า Project Lily ทำให้เกิดคำถามสำคัญเรื่องความเป็นส่วนตัวของการคุยกับ ChatGPT ประเด็นไม่ได้อยู่แค่ว่าแชตอาจถูกนำไปใช้พัฒนาโมเดลหรือไม่ แต่คือมีรายงานว่าผู้รับจ้างภายนอกอาจอ่านข้อความจากบทสนทนาจริง แม้จะไม่เห็นชื่อผู้ใช้แล้วก็ตาม และเนื้อหานั้นอาจยังมีบริบทส่วนตัวที่ละเอียดอ่อนอยู่ 2

Project Lily ทำอะไรบ้างตามรายงาน

เอกสารที่ 404 Media ระบุว่าได้ตรวจสอบชี้ว่า OpenAI ว่าจ้างผู้รับจ้างหลายร้อยคนผ่านบริษัทจัดหางาน เพื่ออ่านพรอมป์ตและคำตอบของ ChatGPT จากผู้ใช้จริง โดยมีรายงานว่าค่าจ้างสูงกว่า 50 ดอลลาร์สหรัฐต่อชั่วโมง หน้าที่ของผู้ประเมินคือสรุปเจตนาของผู้ใช้ เปรียบเทียบคำตอบที่เป็นไปได้ 4 แบบ แล้วให้คะแนนตั้งแต่ 1–7 2

เป้าหมายที่รายงานระบุคือยกระดับคุณภาพคำตอบของ ChatGPT โดยเฉพาะการลดภาษาที่ฟังเป็นหุ่นยนต์ ลดการอ้างว่าตนมีความรู้สึกหรือประสบการณ์แบบมนุษย์ และลดการเห็นด้วยหรือประจบผู้ใช้มากเกินไป การใช้มนุษย์ให้ข้อมูลป้อนกลับเพื่อพัฒนา AI ไม่ใช่เรื่องใหม่ แต่การนำบทสนทนาของผู้บริโภคจริงมาใช้ย่อมทำให้ประเด็นข้อมูลส่วนบุคคลใกล้ตัวขึ้นทันที 2

ผู้ประเมินอาจเห็นข้อมูลอะไร

404 Media รายงานว่าผู้ประเมินอาจได้รับบทสนทนาฉบับเต็ม และในบางกรณีอาจเห็น สรุปความทรงจำของผู้ใช้ (user memories summary) ด้วย แม้จะไม่มีชื่อผู้ใช้แสดงอยู่ แต่บริบทดังกล่าวอาจเผยข้อมูลอย่างพื้นที่ที่อาศัยโดยประมาณ อาชีพ ความสนใจในอดีต หรือสถานการณ์ส่วนตัว 2

การลบชื่อจึงไม่เท่ากับทำให้บทสนทนาไร้ความเสี่ยงเสมอไป รายละเอียดหลายอย่างเมื่อนำมาประกอบกัน เช่น งาน ครอบครัว ปัญหาสุขภาพ หรือเหตุการณ์เฉพาะตัว อาจเป็นข้อมูลอ่อนไหวได้แม้ไม่ได้ระบุบัญชีของใครโดยตรง

Privacy Filter ช่วยได้แค่ไหน

OpenAI ระบุว่า Privacy Filter เป็นโมเดลสำหรับตรวจจับและปกปิดข้อมูลระบุตัวบุคคล หรือ PII (personally identifiable information) ในข้อความ 4647

สำหรับ Project Lily นั้น OpenAI บอกว่าได้ลบชื่อผู้ใช้และใช้ตัวกรองอัตโนมัติก่อนส่งเนื้อหาให้ผู้รับจ้าง แต่ 404 Media รายงานว่ารายละเอียดอ่อนไหวยังอาจหลุดรอดไปอยู่ในบทสนทนาที่ผู้ประเมินเห็นได้ 2

ข้อจำกัดนี้สะท้อนปัญหาของการปกปิดข้อมูลด้วยระบบอัตโนมัติ: ชื่อ อีเมล หรือหมายเลขโทรศัพท์อาจตรวจจับได้ง่ายกว่า ขณะที่บริบทซึ่งบ่งชี้ตัวบุคคลโดยอ้อมกลับจำแนกได้ยากกว่ามาก

สิ่งที่ผู้ประเมินถูกขอให้ตรวจจับ

แนวทางที่รายงานกล่าวถึงไม่ได้ดูเพียงว่าคำตอบถูกต้องหรือไม่ ผู้รับจ้างยังถูกขอให้ระบุปัญหา เช่น

• ภาษาสำเร็จรูปหรือภาษาที่ฟังเหมือน AI เกินไป
• การกล่าวอ้างว่ามีความรู้สึกหรือประสบการณ์แบบมนุษย์
• การเห็นด้วย การประจบ หรือเอาใจผู้ใช้มากเกินควร
• ข้อผิดพลาดด้านข้อเท็จจริง
• การเปิดเผยข้อมูลส่วนบุคคล
• ประเด็นด้านความปลอดภัย 2

หัวข้อเรื่องการเอาใจผู้ใช้มากเกินไปมีความสำคัญ เพราะโมเดลที่พร้อมยืนยันทุกอย่างอาจให้ความรู้สึกสนับสนุนผู้ใช้ แต่ไม่ช่วยทักท้วงข้อสันนิษฐานที่ผิด เสี่ยง หรือเป็นอันตราย รายงานระบุว่า Project Lily มีเป้าหมายส่วนหนึ่งเพื่อปรับพฤติกรรมลักษณะนี้ 2

พิมพ์ว่า “เก็บเรื่องนี้ไว้ระหว่างเรา” ไม่ใช่การตั้งค่าความเป็นส่วนตัว

การขอให้ ChatGPT เก็บเรื่องไว้เป็นความลับภายในพรอมป์ต ไม่ได้เปลี่ยนการตั้งค่าการใช้ข้อมูลของบัญชี เพราะเป็นเพียงข้อความส่วนหนึ่งในบทสนทนา ไม่ใช่คำสั่งทางเทคนิคที่มีผลเหนือการควบคุมข้อมูลของ OpenAI

สำหรับพื้นที่ทำงาน ChatGPT ส่วนบุคคล การตั้งค่าที่ OpenAI ระบุไว้คือ Improve the model for everyone หากเปิดอยู่ แชตอาจถูกใช้เพื่อพัฒนาโมเดลได้ หากปิด OpenAI ระบุว่าจะไม่นำบทสนทนา ใหม่ ไปฝึกโมเดล 2130

วิธีหยุดไม่ให้ใช้แชตใหม่เพื่อพัฒนาโมเดล

สำหรับผู้ใช้ที่ลงชื่อเข้าใช้แล้ว ให้ทำตามขั้นตอนนี้

1. เปิดเมนูโปรไฟล์ใน ChatGPT
2. เลือก Settings
3. เข้า Data Controls
4. ปิด Improve the model for everyone 1921

การตั้งค่านี้ผูกกับบัญชี ไม่ได้ผูกกับอุปกรณ์เครื่องใดเครื่องหนึ่ง ประวัติแชตเดิมของคุณยังคงอยู่ได้หลังปิดการตั้งค่า แต่ OpenAI ระบุว่าบทสนทนาใหม่จะไม่ถูกใช้ฝึกโมเดล 1930

อีกทางเลือกหนึ่งคือเลือก Do not train on my content ผ่านพอร์ทัลความเป็นส่วนตัวของ OpenAI โดยบริษัทระบุว่า สำหรับ ChatGPT และงาน Codex เลือกอย่างใดอย่างหนึ่งระหว่างตัวเลือกนี้กับ Data Controls ก็เพียงพอแล้ว 21

แพ็กเกจใดได้รับการคุ้มครองโดยค่าเริ่มต้น

OpenAI ระบุว่าในพื้นที่ทำงานส่วนบุคคลของ Free, Plus และ Pro การแชร์ข้อมูลเพื่อฝึกโมเดลเปิดไว้เป็นค่าเริ่มต้น แต่ผู้ใช้เลือกปิดได้ ส่วน ChatGPT Business, Enterprise, Edu และ API Platform นั้น OpenAI ระบุว่าจะไม่นำอินพุตและเอาต์พุตที่ให้มาไปฝึกโมเดลโดยค่าเริ่มต้น 23

อย่างไรก็ดี นั่นไม่ได้หมายความว่าทุกบทสนทนาในบัญชีองค์กรจะปราศจากความเสี่ยงสำหรับทุกวัตถุประสงค์ องค์กรควรตรวจสอบการตั้งค่าพื้นที่ทำงาน ระยะเวลาเก็บข้อมูล การควบคุมการแชร์ และนโยบายภายในก่อนใส่ข้อมูลลับลงในเครื่องมือ AI ใด ๆ

ข้อควรทำในทางปฏิบัติ

Project Lily ตามที่ 404 Media รายงาน เป็นเครื่องเตือนใจว่าแชต AI สำหรับผู้บริโภคควรถูกมองว่าเป็นบริการที่มีการตั้งค่าการใช้ข้อมูล ไม่ใช่ช่องทางลับโดยอัตโนมัติ หากกำลังจะใส่ข้อมูลส่วนบุคคลที่ละเอียดอ่อน ข้อมูลทางกฎหมาย การแพทย์ การเงิน หรือความลับทางธุรกิจ ทางเลือกที่ปลอดภัยที่สุดในทันทีคือปิด Improve the model for everyone ก่อนเริ่มบทสนทนาใหม่ 221

การเลือกไม่เข้าร่วมนี้ควบคุมการใช้ บทสนทนาใหม่ เพื่อพัฒนาโมเดล ไม่ใช่คำขอที่พิมพ์ลงไปในพรอมป์ต และเอกสารของ OpenAI ไม่ได้อธิบายว่ามันเป็นวิธีถอนข้อมูลที่ส่งไปแล้ว 2130