تشات جي بي تي يحلم: كيف تسمم الترقية الجديدة للذاكرة كل إجابة تحصل عليها

تشمل التغييرات المعمارية الرئيسية:

• مسح التاريخ الكامل. لم يعد النظام يعتمد على العناصر التي حددتها – إنه يقرأ كل شيء .
• التفضيلات المستنتجة. يستخلص تفاصيل ضمنية من ملاحظات عابرة وسلوكيات سابقة ربما لم تقصد أبداً تخزينها .
• دمج بين الجلسات. تعمل عملية 'حلم' دون اتصال بالإنترنت، لتحل التناقضات وتحدث الحقائق القديمة .
• تمثيل مركب. ما يُخزن ليس نصاً حرفياً لكلماتك، بل وصفاً مضغوطاً ومولّداً من النموذج لمن أنت .

يمكن للمستخدمين عرض ملخص للذاكرة في الإعدادات، لكن طبقة البيانات الخام الأساسية لا تتعرض بشكل مباشر . هذا يخلق فجوة تدقيق تصبح حرجة عندما يبدأ النظام في ارتكاب الأخطاء.

اختبارات ZDNet وجدت فشلاً واسع النطاق في الدقة

اختبر مراسل ZDNet ديفيد جيويرتز الذاكرة المطورة على نطاق واسع ووجد مشاكل دقة خطيرة ومنهجية تتراكم بمرور الوقت .

• الافتراضات القديمة تبقى بشكل دائم. خزّن تشات جي بي تي مسميات وظيفية قديمة، ومشاريع منتهية، وتفضيلات ملغاة، ثم عاملها كحقائق راهنة في كل تفاعل لاحق .
• الأخطاء الصغيرة تصبح إنجيلاً. يحبس الذكاء الاصطناعي الأخطاء الصغيرة ويطبق عليها نفس الثقة التي يستخدمها للمعرفة الواقعية المؤكدة. تفصيل واحد غير صحيح يلوث بصمت عشرات الردود المستقبلية .
• انتشار غير مرئي. بيانات الذاكرة المعيبة تشوه الإجابات دون أي مؤشر مرئي على وجود خطأ ما. قد لا يدرك المستخدمون أبداً أن الذكاء الاصطناعي يعمل بسياق فاسد حتى يكون الضرر قد انتشر عبر العديد من المحادثات .
• ملفات شخصية مفصلة لكنها خاطئة. أنشأ النظام ملفات شخصية مفصلة بدت معقولة لكنها كانت خاطئة، مما جعل كل إجابة ترتكز على مقدمات خاطئة .

وصف جيويرتز ترقية Dreaming V3 بأنها 'انتصار تقني' مقترن بـ 'ميزة غير مسؤولة' . المشكلة الأساسية ليست أن الذكاء الاصطناعي يرتكب أخطاء – بل أن الخطأ يصبح بنية تحتية دائمة وغير مرئية لكل ما تسأل عنه لاحقاً.

فجوة التدقيق: ما لا تريد OpenAI أن تراه

يحتوي قسم الأسئلة الشائعة حول الذاكرة من OpenAI على اعتراف هادئ ومدمر: 'بينما يجب أن يلتقط ملخص الذاكرة أهم التفاصيل، فإنه لن يشمل كل ما يتذكره تشات جي بي تي بناءً على محادثاتك. إذا أردت معرفة ما إذا كان تشات جي بي تي قد تذكر شيئاً، فقط اسأل في الدردشة' .

صفحة ملخص الذاكرة هي نظرة عامة قابلة للقراءة البشرية للملف الشخصي المركب، وليست نافذة كاملة على ما يخزنه النموذج ويستخدمه فعلياً . هذا يعني أن المستخدمين لا يمكنهم التدقيق بشكل كامل في ما 'يعرفه' تشات جي بي تي عنهم من خلال واجهة المستخدم للإعدادات وحدها . سيكون عليك أن 'تصطاد' – بأن تطلب من الذكاء الاصطناعي الكشف عن افتراضاته الخفية عنك – وهذا ليس موثوقاً ولا عملياً للاستخدام المنتظم.

لماذا 'فقط احذفه' لا يحل المشكلة

خيارات إدارة أو مسح الذاكرة موجودة، لكن كلاً منها يحمل قيوداً كبيرة.

• إيقاف الذاكرة قد لا يمحو ما تم تخزينه بالفعل. ذكر موقع ZDNet أن تعطيل الميزة لا يؤدي بالضرورة إلى حذف البيانات التي قام النظام بتجميعها بالفعل .
• الحذف اليدوي هش. يمكن للمستخدمين مراجعة وحذف إدخالات الذاكرة الفردية في الإعدادات، لكن عملية الحلم يمكنها إعادة تعلم نفس التفاصيل من سجل الدردشة الحالي في المرة التالية التي تعمل فيها .
• إعادة التجميع التلقائي المستمر. لأن Dreaming V3 يعيد تجميع السياق باستمرار، فإن مجرد حذف الذكريات المدرجة لا يمنع النظام من إعادة استنتاج معلومات مماثلة من المحادثات السابقة .
• معظم المستخدمين لن يدققوا حتى ينهار كل شيء. أول علامة مرئية على تلف الذاكرة غالباً ما تأتي بعد أن تكون البيانات المسمومة قد شكلت بالفعل العديد من الردود .

تعفن السياق الجديد: التعفن من الملف الشخصي نحو الخارج

يصف 'تعفن السياق' كيف تتدهور نماذج اللغة الكبيرة مع امتلاء نافذة السياق – حيث يتم إزاحة المعلومات القديمة بمحتوى أحدث، وتنحرف المخرجات عن وضع المستخدم الفعلي . صُمم Dreaming V3 بشكل واضح لمكافحة هذه المشكلة عبر الجلسات، ومعالجة 'تحديات القِدم، والصحة، وقابلية التوسع التي نلاحظها عند تطبيق الذاكرة على مئات الملايين من المستخدمين وآفاق زمنية تمتد لسنوات في تشات جي بي تي' .

لكن ما بنته OpenAI يقدم متغيراً أكثر دهاءً. بدلاً من أن يتعفن السياق من نافذة محدودة تمتلئ، فإنه الآن يتعفن من المركز نحو الخارج: بمجرد أن يدخل خطأ إلى ملف المستخدم الدائم، فإنه يفسد بصمت كل إجابة تليه. هذا ليس تعفن السياق التقليدي الناتج عن المعلومات المفقودة – إنه تعفن من معلومات خاطئة يعاملها النظام كمرجع موثوق. ولأن المستخدمين لا يمكنهم رؤيتها أو إزالتها بسهولة، فقد لا يعرفون أبداً لماذا يزداد ذكاؤهم الاصطناعي سوءاً ببطء .