تشمل التغييرات المعمارية الرئيسية:
يمكن للمستخدمين عرض ملخص للذاكرة في الإعدادات، لكن طبقة البيانات الخام الأساسية لا تتعرض بشكل مباشر . هذا يخلق فجوة تدقيق تصبح حرجة عندما يبدأ النظام في ارتكاب الأخطاء.
اختبر مراسل ZDNet ديفيد جيويرتز الذاكرة المطورة على نطاق واسع ووجد مشاكل دقة خطيرة ومنهجية تتراكم بمرور الوقت .
وصف جيويرتز ترقية Dreaming V3 بأنها 'انتصار تقني' مقترن بـ 'ميزة غير مسؤولة' . المشكلة الأساسية ليست أن الذكاء الاصطناعي يرتكب أخطاء – بل أن الخطأ يصبح بنية تحتية دائمة وغير مرئية لكل ما تسأل عنه لاحقاً.
يحتوي قسم الأسئلة الشائعة حول الذاكرة من OpenAI على اعتراف هادئ ومدمر: 'بينما يجب أن يلتقط ملخص الذاكرة أهم التفاصيل، فإنه لن يشمل كل ما يتذكره تشات جي بي تي بناءً على محادثاتك. إذا أردت معرفة ما إذا كان تشات جي بي تي قد تذكر شيئاً، فقط اسأل في الدردشة' .
صفحة ملخص الذاكرة هي نظرة عامة قابلة للقراءة البشرية للملف الشخصي المركب، وليست نافذة كاملة على ما يخزنه النموذج ويستخدمه فعلياً . هذا يعني أن المستخدمين لا يمكنهم التدقيق بشكل كامل في ما 'يعرفه' تشات جي بي تي عنهم من خلال واجهة المستخدم للإعدادات وحدها
. سيكون عليك أن 'تصطاد' – بأن تطلب من الذكاء الاصطناعي الكشف عن افتراضاته الخفية عنك – وهذا ليس موثوقاً ولا عملياً للاستخدام المنتظم.
خيارات إدارة أو مسح الذاكرة موجودة، لكن كلاً منها يحمل قيوداً كبيرة.
يصف 'تعفن السياق' كيف تتدهور نماذج اللغة الكبيرة مع امتلاء نافذة السياق – حيث يتم إزاحة المعلومات القديمة بمحتوى أحدث، وتنحرف المخرجات عن وضع المستخدم الفعلي . صُمم Dreaming V3 بشكل واضح لمكافحة هذه المشكلة عبر الجلسات، ومعالجة 'تحديات القِدم، والصحة، وقابلية التوسع التي نلاحظها عند تطبيق الذاكرة على مئات الملايين من المستخدمين وآفاق زمنية تمتد لسنوات في تشات جي بي تي'
.
لكن ما بنته OpenAI يقدم متغيراً أكثر دهاءً. بدلاً من أن يتعفن السياق من نافذة محدودة تمتلئ، فإنه الآن يتعفن من المركز نحو الخارج: بمجرد أن يدخل خطأ إلى ملف المستخدم الدائم، فإنه يفسد بصمت كل إجابة تليه. هذا ليس تعفن السياق التقليدي الناتج عن المعلومات المفقودة – إنه تعفن من معلومات خاطئة يعاملها النظام كمرجع موثوق. ولأن المستخدمين لا يمكنهم رؤيتها أو إزالتها بسهولة، فقد لا يعرفون أبداً لماذا يزداد ذكاؤهم الاصطناعي سوءاً ببطء .
Comments
0 comments