सबसे चिंताजनक गोपनीयता चिंता सिस्टम का एकतरफा संचालन है। फरवरी 2026 के एक arXiv पेपर "द एल्गोरिदमिक सेल्फ-पोर्ट्रेट" में, अभिषेक दाश और सहकर्मियों ने 80 ChatGPT उपयोगकर्ताओं की 2,050 मेमोरी प्रविष्टियों का विश्लेषण किया, जिसे ACM वेब कॉन्फ्रेंस 2026 में स्वीकार किया गया। अध्ययन में पाया गया कि 96% यादें "बातचीत प्रणाली द्वारा एकतरफा बनाई जाती हैं," न कि स्पष्ट यूजर निर्देश से । इसी डेटासेट से पता चला कि 28% सिस्टम-जनरेटेड प्रविष्टियों में GDPR-परिभाषित व्यक्तिगत डेटा था, और 52% में उपयोगकर्ता के बारे में मनोवैज्ञानिक अंतर्दृष्टि थी
। यह तुरंत GDPR और EU AI अधिनियम (जो अगस्त 2026 से प्रभावी है) जैसे नियमों के तहत सहमति और प्रोफाइलिंग पर सवाल खड़े करता है
।
एक त्रुटिपूर्ण मेमोरी सिस्टम सिर्फ भूलता ही नहीं—यह भविष्य की बातचीत को सक्रिय रूप से दूषित करता है। OpenAI रिपोर्ट करता है कि ड्रीमिंग V3 की तथ्यात्मक स्मरण शक्ति में सुधार हुआ है और यह 82.8% तक पहुँच गई है, जो कि मूल 2024 सिस्टम की 41.5% सटीकता से एक महत्वपूर्ण उछाल है । हालांकि, इसका मतलब अब भी यह है कि लगभग हर 6 में से 1 संग्रहीत याददाश्त गलत हो सकती है। खतरा इसलिए बढ़ जाता है क्योंकि यह सिस्टम अब केवल स्पष्ट निर्देशों को ही नहीं, बल्कि आकस्मिक टिप्पणियों और पिछले इंटरैक्शन से अस्पष्ट प्राथमिकताएँ भी हासिल करता है
। अगर यह गलती से कोई प्राथमिकता, आहार संबंधी प्रतिबंध, या जीवन की परिस्थिति का गलत अनुमान लगा लेता है, तो वह त्रुटि आगे से "आपको दिए जाने वाले हर जवाब में ज़हर घोल सकती है"
। बासी यादों के लिए स्वचालित पुनर्लेखन प्रक्रिया इन त्रुटियों को सुधारने के बजाय और जटिल बना सकती है, और चुपचाप आपकी स्थायी प्रोफ़ाइल में झूठ भर सकती है
।
अपने डेटा पर फिर से नियंत्रण पाना एक बड़ी चुनौती है। क्योंकि ड्रीमिंग V3 आपके संपूर्ण चैट इतिहास से यादें संश्लेषित करता है, सिर्फ एक मेमोरी प्रविष्टि को हटाना अपर्याप्त है। सिस्टम अपने अगले बैकग्राउंड सिंथेसिस चक्र के दौरान पिछली बातचीत से वही जानकारी फिर से निकाल सकता है । किसी जानकारी को पूरी तरह से मिटाने के लिए, एक यूजर को मैन्युअल रूप से उस विशिष्ट चैट इतिहास का पता लगाना और उसे डिलीट करना होगा जिसमें मूल खुलासा किया गया था—यह एक बहु-चरणीय, गैर-स्पष्ट प्रक्रिया है जो सालों के कन्वर्सेशन लॉग वाले लंबे समय के उपयोगकर्ताओं के लिए व्यावहारिक रूप से असंभव हो जाती है
।
यहीं पर "कॉन्टेक्स्ट रॉट" की अवधारणा महत्वपूर्ण और पहले से अधिक खतरनाक हो जाती है। कॉन्टेक्स्ट रॉट एक प्रलेखित घटना है जिसमें AI का प्रदर्शन तब खराब हो जाता है जब उसकी कॉन्टेक्स्ट विंडो विरोधाभासी, पुरानी, या अप्रासंगिक जानकारी से भर जाती है । इसका मानक समाधान हमेशा सरल रहा है: स्लेट को साफ करने के लिए एक नई चैट शुरू करें
।
ड्रीमिंग V3 इस समाधान को तोड़ देता है। लगातार मेमोरी प्रोफाइल का मतलब है कि बासी या गलत डेटा—पुरानी नौकरी, पिछले रिश्ते, समाप्त हो चुकी प्राथमिकताएँ—सत्रों के पार जीवित रहता है । कॉन्टेक्स्ट रॉट की समस्या अब एक लंबी बातचीत तक सीमित नहीं है; यह एक प्रणालीगत मुद्दा बन जाता है जो हर नई चैट को संक्रमित करता है। AI की "मेमोरी" व्यवधान का एक निश्चित स्रोत बन जाती है, और आप चाहे कितनी भी सावधानी से अलग-अलग सत्रों का प्रबंधन करें, यह व्यवस्थित रूप से प्रतिक्रियाओं की सटीकता को कमज़ोर करती है
।
रोलआउट खुद चिंता की एक और परत जोड़ता है। ड्रीमिंग V3 शुरुआत में केवल संयुक्त राज्य अमेरिका में ChatGPT Plus और Pro सब्सक्राइबर्स के लिए उपलब्ध है, और अंतरराष्ट्रीय या मुफ्त-टियर उपयोगकर्ताओं के लिए कोई स्पष्ट समयरेखा नहीं है । यह एक दो-स्तरीय गोपनीयता वातावरण बनाता है जहाँ कुछ भुगतान करने वाले उपयोगकर्ता स्वचालित प्रोफाइलिंग के अधीन हैं जबकि अन्य नहीं हैं।
इसके अलावा, यादों की एक सरल, ऑडिटेबल टेक्स्ट सूची से एक जटिल, बैकग्राउंड-सिंथेसाइज़्ड मेमोरी स्थिति में बदलाव, उपयोगकर्ता की दृश्यता को नाटकीय रूप से कम कर देता है। उपयोगकर्ता अब आसानी से यह नहीं देख सकते, समझ नहीं सकते, या सही नहीं कर सकते कि सिस्टम ने उनके बारे में क्या अनुमान लगाया है । यह प्रक्रिया एक ब्लैक बॉक्स बन गई है, जो उपयोगकर्ता की अपनी डिजिटल प्रोफ़ाइल का ऑडिट और नियंत्रण करने की क्षमता को खत्म कर रही है।
Comments
0 comments