ความจริงอันน่ากลัวของ Dreaming V3: ฟีเจอร์ความจำใหม่ของ ChatGPT กำลังทำลายทุกคำตอบของคุณอย่างเงียบๆ

เครื่องยนต์ความจำ Dreaming V3 ทำงานอย่างไร

Dreaming V3 ได้ละทิ้งรายการความจำที่เราบันทึกไว้อย่างชัดเจนไปโดยสิ้นเชิง แต่ใช้เครื่องยนต์การสังเคราะห์เบื้องหลังที่จะทำงานหลังจากการสนทนาจบลง โดยจะอ่านประวัติการแชตทั้งหมดของคุณเพื่ออนุมานถึงความชอบ, รูปแบบการทำงาน, ข้อจำกัดส่วนตัว และรายละเอียดอื่นๆ โดยไม่ต้องมีคำสั่ง "จำสิ่งนี้ไว้" เลยแม้แต่น้อย

การเปลี่ยนแปลงทางสถาปัตยกรรมที่สำคัญรวมถึง:

• การสแกนประวัติทั้งหมด. ระบบไม่ได้พึ่งพาแค่รายการที่คุณตั้งค่าสถานะไว้เพียงอย่างเดียวอีกต่อไป แต่มันจะอ่านทุกสิ่งทุกอย่าง
• การอนุมานความชอบ. มันจะดึงรายละเอียดโดยนัยจากคำพูดที่เราพูดแบบผ่านๆ และพฤติกรรมในอดีต ซึ่งคุณอาจไม่เคยตั้งใจจะให้มันเก็บไว้เลยก็ได้
• การรวมข้อมูลระหว่างเซสชัน. กระบวนการ 'ฝัน' (Dreaming) จะทำงานแบบออฟไลน์ คอยแก้ไขข้อขัดแย้งและอัปเดตข้อเท็จจริงที่ล้าสมัย
• การนำเสนอแบบสังเคราะห์. สิ่งที่ถูกเก็บไว้ไม่ใช่ข้อความบันทึกแบบคำต่อคำที่คุณพูด แต่เป็นคำอธิบายที่ถูกบีบอัดและสร้างขึ้นโดยโมเดล ว่าคุณเป็นใคร

ผู้ใช้สามารถดูสรุปความจำได้ในการตั้งค่า แต่ชั้นข้อมูลดิบที่อยู่เบื้องหลังนั้นไม่ได้ถูกเปิดเผยให้เห็นโดยตรง นั่นก่อให้เกิด "ช่องว่างการตรวจสอบ" ที่กลายเป็นปัญหาสำคัญเมื่อระบบเริ่มทำสิ่งต่าง ๆ ผิดพลาด

การทดสอบของ ZDNet พบความล้มเหลวด้านความแม่นยำอย่างกว้างขวาง

David Gewirtz นักข่าวจาก ZDNet ได้ทำการทดสอบระบบความจำที่อัปเกรดแล้วอย่างละเอียด และพบปัญหาด้านความแม่นยำที่ร้ายแรงและเป็นระบบ ซึ่งจะยิ่งทวีความรุนแรงขึ้นเมื่อเวลาผ่านไป

• สมมติฐานที่ล้าสมัยจะติดอยู่อย่างถาวร. ChatGPT เก็บตำแหน่งงานเก่า, โปรเจกต์ที่หมดอายุ, และความชอบที่เปลี่ยนไปแล้ว หลังจากนั้นก็จะถือว่ามันคือข้อเท็จจริงปัจจุบันในทุกการมีปฏิสัมพันธ์ครั้งต่อๆ ไป
• ความผิดพลาดเล็กน้อยกลายเป็นความจริงที่ห้ามลบล้าง. AI จะยึดติดกับความผิดพลาดเล็กๆ น้อยๆ และปฏิบัติต่อมันด้วยความมั่นใจระดับเดียวกับที่ใช้กับความรู้ที่ตรวจสอบแล้ว ข้อมูลที่ผิดพลาดเพียงจุดเดียวจะกระจายตัวไปสร้างความเสียหายให้กับคำตอบในอนาคตอีกนับสิบๆ ครั้งอย่างเงียบๆ
• การแพร่กระจายที่มองไม่เห็น. ข้อมูลความจำที่บกพร่องจะบิดเบือนคำตอบโดยไม่มีสัญญาณบ่งชี้ใดๆ ว่ามีบางอย่างผิดปกติ ผู้ใช้อาจไม่มีทางรู้เลยว่า AI กำลังทำงานบนบริบทที่เสียหาย จนกว่าความเสียหายจะกระจายไปทั่วบทสนทนามากมายแล้ว
• โปรไฟล์ที่ละเอียดแต่ไม่ถูกต้อง. ระบบสร้างโปรไฟล์ส่วนตัวที่ซับซ้อน ฟังดูสมเหตุสมผลแต่ผิด โดยยึดทุกการตอบสนองไว้กับสมมติฐานที่ผิดๆ

Gewirtz อธิบายว่า Dreaming V3 เป็น "ความสำเร็จทางเทคนิค" ที่มาพร้อมกับ "ฟีเจอร์ที่ขาดความรับผิดชอบ" ปัญหาหลักไม่ใช่ว่า AI ทำผิดพลาด แต่มันคือการที่ความผิดพลาดนั้นกลายเป็นโครงสร้างพื้นฐานที่ถาวรและมองไม่เห็นสำหรับทุกสิ่งที่คุณถามในภายหลัง

ช่องว่างการตรวจสอบ: สิ่งที่โอเพนเอไอไม่ยอมให้คุณเห็น

ในหน้า คำถามที่พบบ่อยเกี่ยวกับหน่วยความจำ (Memory FAQ) โอเพนเอไอได้ยอมรับอย่างเงียบๆ ว่า: "แม้ว่าสรุปความจำควรจะบันทึกรายละเอียดที่สำคัญที่สุด แต่มันจะไม่รวมทุกสิ่งที่ ChatGPT จดจำได้จากการแชตของคุณ หากคุณต้องการรู้ว่า ChatGPT จดจำบางสิ่งไว้หรือไม่ ให้ถามในการแชต"

หน้าสรุปความจำเป็นเพียงภาพรวมที่มนุษย์อ่านได้ของโปรไฟล์ที่ถูกสังเคราะห์ขึ้น ไม่ใช่หน้าต่างที่สมบูรณ์ไปสู่สิ่งที่โมเดลจัดเก็บและใช้งานจริง นั่นหมายความว่าผู้ใช้ไม่สามารถตรวจสอบได้อย่างถี่ถ้วนว่า ChatGPT "รู้" อะไรเกี่ยวกับคุณบ้างผ่านทาง UI การตั้งค่าเพียงอย่างเดียว คุณต้องลองหยั่งเชิงดู โดยถามให้ AI เปิดเผยสมมติฐานที่ซ่อนอยู่เกี่ยวกับตัวคุณ ซึ่งเป็นวิธีที่ทั้งไม่น่าเชื่อถือและไม่สะดวกในการใช้งานเป็นประจำ

ทำไมการ "แค่ลบมันทิ้ง" ถึงแก้ปัญหาไม่ได้

ตัวเลือกในการจัดการหรือล้างความจำนั้นมีอยู่ แต่แต่ละตัวก็มาพร้อมกับข้อจำกัดที่สำคัญ

• การปิดความจำอาจไม่ลบสิ่งที่ถูกเก็บไว้แล้ว. ZDNet รายงานว่าการปิดใช้งานฟีเจอร์นี้ไม่จำเป็นต้องลบข้อมูลที่ระบบได้สังเคราะห์ไปแล้ว
• การลบด้วยตนเองนั้นเปราะบาง. ผู้ใช้สามารถตรวจสอบและลบรายการความจำทีละรายการได้ในการตั้งค่า แต่กระบวนการ Dreaming ก็สามารถเรียนรู้รายละเอียดเดิมๆ ซ้ำอีกครั้งจากประวัติการแชตที่มีอยู่ของคุณในครั้งถัดไปที่มันทำงาน
• การสังเคราะห์ใหม่อัตโนมัติอย่างต่อเนื่อง. เพราะ Dreaming V3 สังเคราะห์บริบทใหม่อย่างต่อเนื่อง การลบความจำที่ปรากฏในรายการเพียงอย่างเดียว ไม่สามารถป้องกันไม่ให้ระบบอนุมานข้อมูลที่คล้ายคลึงกันขึ้นมาใหม่จากการสนทนาในอดีตได้
• ผู้ใช้ส่วนใหญ่จะไม่ตรวจสอบจนกว่ามันจะพัง. สัญญาณแรกที่มองเห็นได้ของความจำที่เสียหาย มักจะมาหลังจากที่ข้อมูลที่เป็นพิษได้ส่งผลต่อคำตอบไปหลายครั้งแล้ว

Context Rot รูปแบบใหม่: การเน่าเสียจากโปรไฟล์ภายในสู่ภายนอก

Context Rot หรือ การเน่าเสียของบริบท อธิบายถึงการเสื่อมถอยของโมเดลภาษาขนาดใหญ่เมื่อหน้าต่างบริบทเต็ม ข้อมูลที่เก่ากว่าจะถูกแทนที่ด้วยเนื้อหาใหม่ และผลลัพธ์จะเริ่มออกนอกลู่นอกทางจากสถานการณ์จริงของผู้ใช้ Dreaming V3 ถูกออกแบบมาอย่างชัดเจนเพื่อต่อสู้กับปัญหานี้ข้ามเซสชันต่างๆ โดยมุ่งจัดการกับ "ความล้าสมัย, ความถูกต้อง, และความท้าทายในการปรับขยาย ที่เราสังเกตพบเมื่อนำความจำไปใช้กับผู้ใช้หลายร้อยล้านคนและช่วงเวลาหลายปีใน ChatGPT"

แต่สิ่งที่โอเพนเอไอสร้างขึ้นได้นำเสนอรูปแบบที่ร้ายกาจยิ่งกว่า แทนที่บริบทจะเน่าเสียจากการที่หน้าต่างมีพื้นที่จำกัด ตอนนี้มันเน่าเสียจากศูนย์กลางออกมาสู่ภายนอก: เมื่อใดก็ตามที่ความผิดพลาดเข้าสู่โปรไฟล์ผู้ใช้ที่เก็บไว้ถาวร มันจะค่อยๆ ทำลายคุณภาพของทุกคำตอบที่ตามมาอย่างเงียบๆ นี่ไม่ใช่ Context Rot แบบดั้งเดิมที่เกิดจากการสูญเสียข้อมูล แต่มันคือการเน่าเสียจาก "ข้อมูลที่ผิด" ซึ่งระบบกลับปฏิบัติต่อมันเสมือนเป็นข้อมูลที่เชื่อถือได้ และเพราะว่าผู้ใช้ไม่สามารถมองเห็นหรือลบมันออกได้ง่ายๆ พวกเขาจึงอาจไม่มีทางรู้เลยว่าทำไม AI ของพวกเขาถึงค่อยๆ แย่ลงเรื่อยๆ