चैटजीपीटी ड्रीमिंग V3: वो मेमोरी अपग्रेड जो हर जवाब में ज़हर घोल रहा है

आइए समझते हैं कि असल में पर्दे के पीछे क्या हो रहा है—और आपको चिंतित क्यों होना चाहिए।

ड्रीमिंग V3 मेमोरी इंजन कैसे काम करता है

ड्रीमिंग V3 ने 'सेव्ड मेमोरीज़' की पुरानी लिस्ट को पूरी तरह से खत्म कर दिया है। इसकी जगह, अब बातचीत खत्म होने के बाद बैकग्राउंड में एक 'सिंथेसिस इंजन' चलता है। यह आपकी पूरी चैट हिस्ट्री को पढ़कर आपकी पसंद, काम करने के तरीके, व्यक्तिगत सीमाओं और दूसरी जानकारियों का अनुमान लगाता है—यह सब बिना किसी 'यह याद रखो' के मैन्युअल आदेश के होता है ।

मुख्य बदलाव इस प्रकार हैं:

• पूरे इतिहास की स्कैनिंग: यह सिस्टम अब सिर्फ उन चीज़ों पर निर्भर नहीं है जिन्हें आपने फ्लैग किया था—यह आपकी सारी बातें पढ़ता है ।
• अनुमानित पसंद: यह आपकी आम बातचीत और पिछले व्यवहार से ऐसी बातें भी निकाल लेता है, जिन्हें आपने कभी स्टोर करने का इरादा नहीं किया था ।
• सत्रों के बीच में समेकन: एक 'ड्रीमिंग' प्रक्रिया ऑफलाइन चलती है, जो विरोधाभासों को सुलझाती है और पुरानी पड़ चुकी जानकारियों को अपडेट करती है ।
• संश्लेषित प्रतिनिधित्व: जो स्टोर होता है, वह आपके शब्दों की जस-की-तस नकल नहीं, बल्कि मॉडल द्वारा तैयार किया गया एक संकुचित विवरण है कि आप कौन हैं ।

उपयोगकर्ता सेटिंग्स में जाकर एक 'मेमोरी समरी' देख सकते हैं, लेकिन असली कच्चा डेटा सीधे तौर पर सामने नहीं आता । यही वह ऑडिट गैप है, जो तब बेहद गंभीर हो जाता है जब सिस्टम गलतियाँ करने लगता है।

ZDNet की टेस्टिंग में बड़े पैमाने पर गलतियाँ मिलीं

ZDNet के रिपोर्टर डेविड गेवर्ट्ज़ ने इस अपग्रेडेड मेमोरी का बड़े पैमाने पर परीक्षण किया और इसमें गंभीर, व्यवस्थित सटीकता की समस्याएँ पाईं, जो समय के साथ और भी बढ़ जाती हैं ।

• पुरानी धारणाएँ स्थायी रूप से चिपक गईं। चैटजीपीटी ने पुराने जॉब टाइटल, खत्म हो चुके प्रोजेक्ट्स और बदली जा चुकी पसंद को वर्तमान तथ्य मान लिया और हर आगे की बातचीत में उन्हीं का इस्तेमाल किया ।
• छोटी गलतियाँ 'ईश्वरीय सत्य' बन गईं। AI छोटी-मोटी गलतियों को पक्का कर लेता है और उन पर उतने ही विश्वास के साथ काम करता है, जितना वह प्रमाणित तथ्यों पर करता है। एक गलत जानकारी फिर चुपचाप दर्जनों भविष्य के जवाबों को दूषित कर देती है ।
• अदृश्य प्रसार। त्रुटिपूर्ण मेमोरी डेटा बिना किसी चेतावनी के जवाबों को विकृत करता है। उपयोगकर्ताओं को शायद तब तक एहसास ही न हो कि AI एक खराब संदर्भ के आधार पर काम कर रहा है, जब तक नुकसान कई बातचीत में फैल न चुका हो ।
• विस्तृत लेकिन गलत प्रोफाइल। सिस्टम ने बेहद विस्तृत व्यक्तिगत प्रोफाइल बनाईं जो विश्वसनीय तो लगती थीं, लेकिन थीं पूरी तरह गलत। उसके बाद हर जवाब इन्हीं झूठे आधारों पर टिका हुआ था ।

गेवर्ट्ज़ ने ड्रीमिंग V3 को एक "तकनीकी जीत" के साथ-साथ एक "गैर-जिम्मेदाराना फीचर" बताया । मुख्य समस्या यह नहीं है कि AI गलतियाँ करता है—समस्या यह है कि यह गलती एक स्थायी, अदृश्य ढाँचा बन जाती है, जिस पर आपके बाद के हर सवाल का जवाब टिका होता है।

ऑडिट गैप: ओपनएआई आपको क्या नहीं दिखाएगा

ओपनएआई के मेमोरी FAQ में एक चुपचाप लेकिन विध्वंसक स्वीकारोक्ति है: "हालाँकि मेमोरी समरी में सबसे महत्वपूर्ण जानकारियाँ शामिल होनी चाहिए, लेकिन इसमें वह सब कुछ नहीं होगा जो चैटजीपीटी ने आपकी चैट के आधार पर याद रखा है। अगर आप जानना चाहते हैं कि चैटजीपीटी ने कुछ याद रखा है या नहीं, तो बस चैट में पूछ लें" ।

मेमोरी समरी पेज आपकी संश्लेषित प्रोफाइल का एक मानव-पठनीय सारांश है, न कि इस बात की पूरी खिड़की कि मॉडल ने असल में क्या स्टोर और उपयोग किया है । इसका मतलब यह है कि उपयोगकर्ता सेटिंग्स के UI के ज़रिए पूरी तरह से ऑडिट नहीं कर सकते कि चैटजीपीटी उनके बारे में क्या "जानता" है । आपको अंदाज़ा लगाना होगा—AI से पूछना होगा कि उसने आपके बारे में अपनी छिपी हुई धारणाओं को खुद उजागर करे—जो न तो विश्वसनीय है और न ही नियमित उपयोग के लिए व्यावहारिक।

"बस इसे डिलीट कर दो" समस्या का हल क्यों नहीं है

मेमोरी को मैनेज करने या पूरी तरह से हटाने के विकल्प मौजूद हैं, लेकिन हर एक की अपनी बड़ी सीमाएँ हैं।

• मेमोरी बंद करने से पहले से स्टोर डेटा नहीं मिटता। ZDNet ने बताया कि इस सुविधा को बंद करने से वह डेटा जरूरी नहीं कि डिलीट हो जाए, जो सिस्टम पहले ही सिंथेसाइज़ कर चुका है ।
• मैन्युअल डिलीशन कमज़ोर है। उपयोगकर्ता सेटिंग्स में जाकर अलग-अलग मेमोरी एंट्री की समीक्षा कर सकते हैं और उन्हें डिलीट कर सकते हैं, लेकिन अगली बार प्रक्रिया चलने पर 'ड्रीमिंग' आपके मौजूदा चैट इतिहास से वही जानकारी फिर से सीख सकता है ।
• लगातार चलने वाला ऑटोमैटिक री-सिंथेसिस। क्योंकि ड्रीमिंग V3 लगातार संदर्भ को फिर से संश्लेषित करता है, केवल सूचीबद्ध यादों को हटाने से सिस्टम पिछली बातचीत से मिलती-जुलती जानकारी को फिर से ग्रहण करने से नहीं रुकता ।
• ज़्यादातर लोग तब तक ऑडिट नहीं करेंगे जब तक चीज़ें बिगड़ न जाएँ। खराब हुई मेमोरी का पहला संकेत अक्सर तब मिलता है, जब ज़हरीला डेटा पहले ही कई जवाबों को आकार दे चुका होता है ।

नया 'कॉन्टेक्स्ट रॉट': प्रोफाइल के केंद्र से सड़न

'कॉन्टेक्स्ट रॉट' उस स्थिति को कहते हैं जब बड़े लैंग्वेज मॉडल का प्रदर्शन गिरने लगता है क्योंकि एक सीमित 'कॉन्टेक्स्ट विंडो' में पुरानी जानकारी नई जानकारी से विस्थापित हो जाती है और नतीजे उपयोगकर्ता की असल स्थिति से भटक जाते हैं । ड्रीमिंग V3 को खास तौर पर अलग-अलग सत्रों के बीच इसी समस्या से लड़ने के लिए डिज़ाइन किया गया था, ताकि "करोड़ों उपयोगकर्ताओं और चैटजीपीटी में बहु-वर्षीय समय-सीमाओं पर मेमोरी लागू करने पर हम जो पुरानापन, शुद्धता और स्केलेबिलिटी की चुनौतियाँ देखते हैं," उनसे निपटा जा सके ।

लेकिन ओपनएआई ने जो बनाया है, वह एक ज़्यादा घातक रूप लेकर आया है। अब कॉन्टेक्स्ट एक भरती हुई खिड़की से नहीं, बल्कि केंद्र से बाहर की ओर सड़ता है: जैसे ही कोई गलती आपकी स्थायी प्रोफाइल में दर्ज होती है, यह चुपचाप आने वाले हर जवाब को खराब कर देती है। यह पारंपरिक 'कॉन्टेक्स्ट रॉट' नहीं है जो जानकारी खोने से होता है—यह तो गलत जानकारी का रॉट है, जिसे सिस्टम आधिकारिक मानकर चलता है। और क्योंकि उपयोगकर्ता इसे देख नहीं सकते या आसानी से हटा नहीं सकते, उन्हें शायद कभी पता न चले कि उनका AI धीरे-धीरे खराब क्यों होता जा रहा है ।