Gemini หลุดชื่อคาแรกเตอร์ลับจริงหรือ? เจาะปม “Vantage Tripod”

เรื่องนี้แพร่กระจายอย่างรวดเร็ว ก่อนนำไปสู่การปฏิเสธอย่างเป็นทางการจาก Google ความพยายามทดลองซ้ำที่ไม่ประสบผลสำเร็จ และคำถามใหญ่เกี่ยวกับขอบเขตข้อมูลที่ระบบ AI เข้าถึงได้ รวมถึงความปลอดภัยของการเก็บความลับทางธุรกิจไว้บนคลาวด์

จุดเริ่มต้นของข้อกล่าวหา

Klub Kofta Studio คือผู้พัฒนา Operation Octo เกมแนวป้องกันฐาน หรือ tower defense บน Steam โดยนักพัฒนาเล่าว่า ผู้เล่นคนหนึ่งในเซิร์ฟเวอร์ Discord ของเกมลองถาม Gemini ด้วยคำถามเล่น ๆ เกี่ยวกับเนื้อหาในอนาคต

จากภาพหน้าจอบทสนทนาที่ถูกนำมาเผยแพร่ Gemini ตอบกลับด้วยชื่อ “Vantage Tripod” ซึ่งเป็นชื่อที่เฉพาะเจาะจงมากของคาแรกเตอร์ที่ยังไม่เปิดตัว

นักพัฒนาเขียนบน Reddit ว่า AI “กลับตอบชื่อคาแรกเตอร์ที่เฉพาะเจาะจงอย่างไม่น่าเชื่อ” ทั้งที่เขาไม่เคยพูดถึงชื่อนี้กับใคร และย้ำว่าเท่าที่ทราบ ข้อมูลดังกล่าวมีอยู่ในเอกสาร Google Docs ของตัวเองเท่านั้น ขณะที่ผู้ที่เป็นคนคุยกับ AI ไม่ใช่เขา

ก่อนเกิดเหตุ แฟนเกมอาจเคยรู้เพียงว่ามีแผนจะเพิ่มคาแรกเตอร์ชื่อ “Tripod Fish” แต่ยังไม่เคยทราบชื่อเต็มว่า “Vantage Tripod”

นักพัฒนายังอ้างว่า Gemini ให้ข้อมูลเกี่ยวกับกลไกการเล่นที่ยังไม่เปิดเผยได้อย่างถูกต้องด้วย โดยรายละเอียดเหล่านั้นเพิ่งถูกเขียนลงใน Google Docs เดียวกันเพียงหนึ่งวันก่อนผู้เล่นจะทดลองถาม AI

Google ชี้แจงอย่างไร

Google ปฏิเสธข้อกล่าวหาที่สื่อว่า Gemini ถูกฝึกด้วยเอกสาร Google Workspace ส่วนตัว เช่น Google Docs โดยตัวแทนบริษัทระบุว่า Google ไม่ได้สแกนเอกสารส่วนตัวเพื่อนำไปฝึกโมเดล AI

บริษัทอธิบายเพิ่มเติมว่า Gemini จะเข้าถึง Google Drive หรือ Google Docs ได้ก็ต่อเมื่อผู้ใช้ให้สิทธิ์อย่างชัดเจน เพื่อทำงานเฉพาะอย่าง เช่น การสรุปเอกสาร

อย่างไรก็ตาม Google ไม่ได้เสนอคำอธิบายทางเลือกอย่างชัดเจนว่า หากเรื่องที่นักพัฒนาเล่าเป็นจริง Gemini สามารถสร้างข้อความ “Vantage Tripod” ซึ่งเป็นชื่อเฉพาะดังกล่าวออกมาได้อย่างไร

ทำไมการทดลองซ้ำจึงไม่พบชื่อดังกล่าว

หลังโพสต์บน Reddit แพร่กระจาย นักข่าว นักพัฒนา และสมาชิกชุมชนหลายคนพยายามถาม Gemini ด้วยคำถามใกล้เคียงกันเกี่ยวกับ Operation Octo แต่ไม่มีใครสามารถทำให้ระบบตอบชื่อ “Vantage Tripod” หรือรายละเอียดที่ยังไม่เปิดเผยในลักษณะเดียวกันได้

แม้แต่ผู้เล่นคนแรกที่ได้รับคำตอบดังกล่าวก็ไม่สามารถทำให้ผลลัพธ์เดิมเกิดขึ้นซ้ำได้ ตามที่นักพัฒนาเปิดเผยภายหลัง

จนถึงขณะนี้ยังไม่มีการตรวจสอบทางเทคนิค การทดลองแบบควบคุม หรือบันทึกพรอมป์ต์ทั้งหมดที่ยืนยันโดยอิสระว่า Gemini เข้าถึงเอกสารส่วนตัวจริง

สื่อบางแห่งจึงตั้งข้อสังเกตว่า สิ่งที่เกิดขึ้นอาจเป็น “ภาพหลอน” หรือ hallucination ที่เกิดขึ้นเพียงครั้งเดียว—ชื่อที่ฟังดูเป็นไปได้ซึ่ง AI สร้างจากการจับคู่รูปแบบภาษาโดยบังเอิญ ไม่ใช่การดึงข้อมูลจากไฟล์ส่วนตัว

การที่ไม่มีใครเรียกผลลัพธ์นี้กลับมาได้อีกทำให้ข้อกล่าวหาดังกล่าวถูกตั้งคำถามอย่างมาก แม้จะยังไม่มีคำอธิบายที่ยืนยันได้แน่ชัดว่าเกิดอะไรขึ้น

ประเด็นใหญ่กว่าชื่อคาแรกเตอร์หนึ่งชื่อ

ไม่ว่า “Vantage Tripod” จะเป็นผลจากข้อมูลรั่วไหลจริงหรือเป็นเพียงคำตอบที่ AI สร้างขึ้นโดยบังเอิญ เหตุการณ์นี้ก็สะท้อนปัญหาสำคัญหลายด้าน

ขอบเขตของข้อมูลฝึก AI ยังไม่ชัดเจนสำหรับผู้ใช้

แม้ Google จะยืนยันว่าไม่ได้นำเอกสาร Workspace ส่วนตัวไปฝึก AI แต่ผู้ใช้ทั่วไปก็ไม่มีทางตรวจสอบได้ด้วยตัวเองอย่างสมบูรณ์ว่าเนื้อหาส่วนตัวถูกนำไปใช้ในการฝึกโมเดลหรือการประมวลผลคำตอบหรือไม่

ความไม่แน่นอนเช่นนี้เพียงอย่างเดียวก็เพียงพอที่จะสั่นคลอนความเชื่อมั่นต่อเครื่องมือทำงานบนคลาวด์ โดยเฉพาะเมื่อใช้จัดเก็บแผนงานหรือข้อมูลที่ยังไม่ควรเปิดเผย

ผู้ใช้ไม่เห็นกระบวนการเบื้องหลังคำตอบ

เครื่องมือค้นหาและ AI สมัยใหม่อาจเกี่ยวข้องกับแหล่งข้อมูลหลายประเภท ทั้งหน้าเว็บที่ถูกจัดทำดัชนี เนื้อหาที่ถูกแคช ลิงก์ที่ผู้ใช้แชร์ หรือข้อมูลจากระบบนิเวศของบริการเดียวกัน

หากบริษัทไม่เปิดเผยอย่างเพียงพอว่า AI สร้างคำตอบขึ้นมาอย่างไร นักพัฒนาและธุรกิจก็ยากจะมั่นใจได้ว่าแผนเปิดตัวหรือความลับทางการค้าของตนปลอดภัยเมื่อเก็บไว้ในเอกสารบนคลาวด์

คำตอบมั่วที่ฟังดูจริงก็สร้างความเสียหายได้

ความเสี่ยงไม่ได้มีแค่การรั่วไหลจริงเท่านั้น หาก AI สร้างชื่อที่ฟังดูเหมือนความลับขึ้นมาแล้วตอบด้วยความมั่นใจ ผู้คนก็อาจเข้าใจว่าข้อมูลส่วนตัวถูกเปิดเผยไปแล้ว ทั้งที่ยังไม่มีหลักฐานยืนยัน

การพิสูจน์ว่า “ไม่ได้รั่วไหล” อาจทำได้ยากพอ ๆ กับการพิสูจน์ว่า “รั่วไหลจริง” ส่งผลให้เกิดวิกฤติความเชื่อมั่นต่อผู้พัฒนาและบริษัทที่พึ่งพาการจัดเก็บเอกสารออนไลน์

ความลับทางการค้าอาจปกป้องได้ยากขึ้น

การคุ้มครองข้อมูลในฐานะความลับทางการค้าต้องอาศัยการรักษาความลับอย่างต่อเนื่อง เมื่อข้อมูลใดสามารถปรากฏในคำตอบของแชตบอตได้อย่างน่าเชื่อถือ แม้ยังไม่รู้ว่า AI ได้ข้อมูลมาอย่างไร ความลับนั้นก็อาจถูกตั้งคำถามและบั่นทอนการคุ้มครองทางกฎหมาย

ผลที่ตามมาคือธุรกิจและนักพัฒนาอาจลังเลที่จะใช้เครื่องมือเพิ่มประสิทธิภาพบนคลาวด์กับแผนงานที่เป็นความลับ

สรุป: ยังไม่มีคำตอบว่า Gemini รู้ได้อย่างไร

กรณี “Vantage Tripod” ยังคงเป็นปริศนาด้านความเป็นส่วนตัวที่ไม่มีข้อสรุป นักพัฒนาออกมาให้ข้อมูลพร้อมภาพหน้าจอ แต่ข้อกล่าวหายังตรวจสอบยืนยันไม่ได้และไม่สามารถทำซ้ำได้ ขณะที่ Google ปฏิเสธว่า Gemini ใช้เอกสารส่วนตัวของผู้ใช้ในลักษณะที่ถูกกล่าวหา

คำอธิบายที่เป็นไปได้อาจเป็นคำตอบที่เกิดจาก hallucination และบริบทที่ไม่ครบถ้วน แต่ยังไม่มีหลักฐานเพียงพอที่จะฟันธง สิ่งที่ชัดเจนกว่าคือ ระบบ AI ที่ทำงานแบบไม่โปร่งใสกำลังสร้าง “ช่องว่างความเชื่อมั่น” และช่องว่างนี้เองก็เป็นความเสี่ยงสำคัญสำหรับทุกคนที่เก็บข้อมูลละเอียดอ่อนไว้บนโลกออนไลน์