ChatGPT Dreaming V3: שדרוג זיכרון שמרעיל בשקט כל תשובה

השינויים הארכיטקטוניים המרכזיים כוללים:

• סריקת היסטוריה מלאה. המערכת כבר לא מסתמכת על פריטים שסימנתם – היא קוראת פשוטו כמשמעו, הכל .
• העדפות מוסקות. היא מחלצת פרטים מרומזים מהערות אגביות והתנהגויות עבר שאולי מעולם לא התכוונתם לאחסן כאלה .
• גיבוש בין מפגשים. תהליך ״חלימה״ רץ במצב לא מקוון, פותר סתירות ומעדכן פרטים ישנים .
• ייצוג מסונתז. מה שמאוחסן זה לא תמליל מילה-במילה של הדברים שאמרתם, אלא תיאור דחוס, מיוצר-מודל, של מי שאתם .

משתמשים יכולים לצפות בסיכום זיכרון בהגדרות, אבל שכבת הנתונים הגולמיים הבסיסית לא חשופה ישירות . זה יוצר פער ביקורתי שהופך לקריטי כשהמערכת מתחילה לטעות.

בדיקות ZDNet מצאו כשלי דיוק נרחבים

הכתב דיוויד גווירץ מ-ZDNet בחן את הזיכרון המשודרג בהרחבה ומצא בעיות דיוק חמורות ושיטתיות שמחמירות עם הזמן .

• הנחות לא מעודכנות נשארות לצמיתות. ChatGPT אחסן תארי עבודה ישנים, פרויקטים שפג תוקפם, והעדפות מיושנות, ואז התייחס אליהם כאל עובדות עדכניות בכל אינטראקציה עוקבת .
• טעויות שוליות הופכות לתורה מסיני. הבינה המלאכותית נועלת טעויות קטנות ומשתמשת באותו ביטחון כמו לידע עובדתי מאומת. פרט לא נכון בודד ואז מזהם בשקט עשרות תגובות עתידיות .
• התפשטות בלתי נראית. מידע פגום מהזיכרון מעוות תשובות בלי שום אינדיקציה גלויה שמשהו לא בסדר. משתמשים עשויים לעולם לא להבין שהבינה המלאכותית עובדת מהקשר פגום – עד שהנזק כבר התפשט על פני הרבה שיחות .
• פרופילים מפורטים אבל שגויים. המערכת יצרה פרופילים אישיים מפורטים שהיו סבירים אבל שגויים, וקיבעה כל תגובה להנחות יסוד שגויות .

גווירץ תיאר את Dreaming V3 כ״נצחון טכני״ שמוצמד ל״פיצ׳ר חסר אחריות״ . הבעיה המרכזית היא לא שהבינה המלאכותית עושה טעויות – אלא שהטעות הופכת לתשתית קבועה ובלתי נראית לכל מה שתשאלו אחר כך.

פער הביקורת: מה ש-OpenAI לא תראה לכם

שאלות נפוצות על הזיכרון של OpenAI מכילות הודאה הרסנית בשקט: ״בעוד שסיכום הזיכרון אמור ללכוד את הפרטים החשובים ביותר, הוא לא יכלול את כל מה ש-ChatGPT זוכר בהתבסס על השיחות שלכם. אם אתם רוצים לדעת האם ChatGPT זכר משהו, פשוט תשאלו בצ׳אט״ .

דף סיכום הזיכרון הוא סקירה קריאה-לאדם של הפרופיל המסונתז, לא חלון מלא למה שהמודל בעצם מאחסן ומשתמש בו . זה אומר שמשתמשים לא יכולים לבצע ביקורת מלאה על מה ש-ChatGPT ״יודע״ עליהם דרך ממשק ההגדרות בלבד . תאלצו ללכת לדוג – לבקש מהבינה המלאכותית לחשוף את ההנחות הנסתרות שלה עליכם – וזה לא אמין ולא פרקטי לשימוש שוטף.

למה ״פשוט תמחקו את זה״ לא פותר את הבעיה

קיימות אופציות לנהל או לטהר את הזיכרון, אבל כל אחת נושאת מגבלות משמעותיות.

• כיבוי הזיכרון עשוי לא למחוק את מה שכבר מאוחסן. ZDNet דיווחה שהשבתת הפיצ׳ר לא בהכרח מוחקת את הנתונים שהמערכת כבר סינתזה .
• מחיקה ידנית היא שבירה. משתמשים יכולים לסקור ולמחוק רשומות זיכרון בודדות בהגדרות, אבל תהליך החלימה יכול ללמוד מחדש את אותם פרטים מההיסטוריית הצ׳אט הקיימת בפעם הבאה שירוץ .
• סינתוז אוטומטי מחדש שוטף. משום ש-Dreaming V3 מסנתזת הקשר מחדש באופן שוטף, פשוט מחיקת זיכרונות רשומים לא מונעת מהמערכת להסיק מידע דומה שוב משיחות עבר .
• רוב המשתמשים לא יבדקו עד שזה ישבר. הסימן הגלוי הראשון לזיכרון פגום מגיע לעיתים קרובות אחרי שהמידע המורעל כבר עיצב תגובות רבות .

ה-Context Rot החדש: ריקבון מהפרופיל החוצה

״ריקבון הקשר״ (Context Rot) מתאר כיצד הביצועים של מודלי שפה גדולים מידרדרים ככל שחלונות ההקשר מתמלאים – מידע ישן נדחק על ידי תוכן חדש, והפלטים סוטים מהמצב האמיתי של המשתמש . Dreaming V3 תוכנן במפורש כדי להילחם בבעיה הזו בין מפגשים, תוך טיפול ב״אתגרי הקיפאון, הנכונות והסקאלביליות שאנחנו צופים בהם כשמיישמים זיכרון על מאות מיליוני המשתמשים וטווחי הזמן הרב-שנתיים בצ׳אט GPT״ .

אבל מה ש-OpenAI בנתה מכניס וריאנט ערמומי יותר. במקום שההקשר יירקב מחלון סופי שמתמלא, עכשיו הוא נרקב מהמרכז החוצה: ברגע ששגיאה נכנסת לפרופיל המשתמש הקבוע, היא פוגמת בשקט בכל תשובה שבאה אחר כך. זה לא Context Rot מסורתי מאובדן מידע – זה ריקבון ממידע שגוי שהמערכת מתייחסת אליו כבר-סמכא. ומשום שמשתמשים לא יכולים לראות אותו או להסירו בקלות, הם עשויים לעולם לא לדעת למה הבינה המלאכותית שלהם הולכת ונהיית גרועה יותר .