הנה מה שבאמת קורה מתחת למכסה המנוע – ולמה אתם צריכים להיות מודאגים.

איך מנוע הזיכרון Dreaming V3 עובד

Dreaming V3 זונחת לחלוטין את רשימת הזיכרונות השמורים המפורשים. במקומם, מנוע סינתוז רץ ברקע לאחר שהשיחות מסתיימות, קורא את כל היסטוריית הצ׳אטים של המשתמש כדי להסיק העדפות, דפוסי עבודה, אילוצים אישיים ופרטים אחרים – והכל בלי שום פקודת ״זכור את זה״ ידנית .

השינויים הארכיטקטוניים המרכזיים כוללים:

• סריקת היסטוריה מלאה. המערכת כבר לא מסתמכת על פריטים שסימנתם – היא קוראת פשוטו כמשמעו, הכל .
• העדפות מוסקות. היא מחלצת פרטים מרומזים מהערות אגביות והתנהגויות עבר שאולי מעולם לא התכוונתם לאחסן כאלה .
• גיבוש בין מפגשים. תהליך ״חלימה״ רץ במצב לא מקוון, פותר סתירות ומעדכן פרטים ישנים .
• ייצוג מסונתז. מה שמאוחסן זה לא תמליל מילה-במילה של הדברים שאמרתם, אלא תיאור דחוס, מיוצר-מודל, של מי שאתם .

משתמשים יכולים לצפות בסיכום זיכרון בהגדרות, אבל שכבת הנתונים הגולמיים הבסיסית לא חשופה ישירות . זה יוצר פער ביקורתי שהופך לקריטי כשהמערכת מתחילה לטעות.

בדיקות ZDNet מצאו כשלי דיוק נרחבים

הכתב דיוויד גווירץ מ-ZDNet בחן את הזיכרון המשודרג בהרחבה ומצא בעיות דיוק חמורות ושיטתיות שמחמירות עם הזמן .

• הנחות לא מעודכנות נשארות לצמיתות. ChatGPT אחסן תארי עבודה ישנים, פרויקטים שפג תוקפם, והעדפות מיושנות, ואז התייחס אליהם כאל עובדות עדכניות בכל אינטראקציה עוקבת .
• טעויות שוליות הופכות לתורה מסיני. הבינה המלאכותית נועלת טעויות קטנות ומשתמשת באותו ביטחון כמו לידע עובדתי מאומת. פרט לא נכון בודד ואז מזהם בשקט עשרות תגובות עתידיות .
• התפשטות בלתי נראית. מידע פגום מהזיכרון מעוות תשובות בלי שום אינדיקציה גלויה שמשהו לא בסדר. משתמשים עשויים לעולם לא להבין שהבינה המלאכותית עובדת מהקשר פגום – עד שהנזק כבר התפשט על פני הרבה שיחות .
• פרופילים מפורטים אבל שגויים. המערכת יצרה פרופילים אישיים מפורטים שהיו סבירים אבל שגויים, וקיבעה כל תגובה להנחות יסוד שגויות .

גווירץ תיאר את Dreaming V3 כ״נצחון טכני״ שמוצמד ל״פיצ׳ר חסר אחריות״ . הבעיה המרכזית היא לא שהבינה המלאכותית עושה טעויות – אלא שהטעות הופכת לתשתית קבועה ובלתי נראית לכל מה שתשאלו אחר כך.

פער הביקורת: מה ש-OpenAI לא תראה לכם

שאלות נפוצות על הזיכרון של OpenAI מכילות הודאה הרסנית בשקט: ״בעוד שסיכום הזיכרון אמור ללכוד את הפרטים החשובים ביותר, הוא לא יכלול את כל מה ש-ChatGPT זוכר בהתבסס על השיחות שלכם. אם אתם רוצים לדעת האם ChatGPT זכר משהו, פשוט תשאלו בצ׳אט״ .

דף סיכום הזיכרון הוא סקירה קריאה-לאדם של הפרופיל המסונתז, לא חלון מלא למה שהמודל בעצם מאחסן ומשתמש בו . זה אומר שמשתמשים לא יכולים לבצע ביקורת מלאה על מה ש-ChatGPT ״יודע״ עליהם דרך ממשק ההגדרות בלבד . תאלצו ללכת לדוג – לבקש מהבינה המלאכותית לחשוף את ההנחות הנסתרות שלה עליכם – וזה לא אמין ולא פרקטי לשימוש שוטף.

למה ״פשוט תמחקו את זה״ לא פותר את הבעיה

קיימות אופציות לנהל או לטהר את הזיכרון, אבל כל אחת נושאת מגבלות משמעותיות.

• כיבוי הזיכרון עשוי לא למחוק את מה שכבר מאוחסן. ZDNet דיווחה שהשבתת הפיצ׳ר לא בהכרח מוחקת את הנתונים שהמערכת כבר סינתזה .
• מחיקה ידנית היא שבירה. משתמשים יכולים לסקור ולמחוק רשומות זיכרון בודדות בהגדרות, אבל תהליך החלימה יכול ללמוד מחדש את אותם פרטים מההיסטוריית הצ׳אט הקיימת בפעם הבאה שירוץ .
• סינתוז אוטומטי מחדש שוטף. משום ש-Dreaming V3 מסנתזת הקשר מחדש באופן שוטף, פשוט מחיקת זיכרונות רשומים לא מונעת מהמערכת להסיק מידע דומה שוב משיחות עבר .
• רוב המשתמשים לא יבדקו עד שזה ישבר. הסימן הגלוי הראשון לזיכרון פגום מגיע לעיתים קרובות אחרי שהמידע המורעל כבר עיצב תגובות רבות .

ה-Context Rot החדש: ריקבון מהפרופיל החוצה

״ריקבון הקשר״ (Context Rot) מתאר כיצד הביצועים של מודלי שפה גדולים מידרדרים ככל שחלונות ההקשר מתמלאים – מידע ישן נדחק על ידי תוכן חדש, והפלטים סוטים מהמצב האמיתי של המשתמש . Dreaming V3 תוכנן במפורש כדי להילחם בבעיה הזו בין מפגשים, תוך טיפול ב״אתגרי הקיפאון, הנכונות והסקאלביליות שאנחנו צופים בהם כשמיישמים זיכרון על מאות מיליוני המשתמשים וטווחי הזמן הרב-שנתיים בצ׳אט GPT״ .

אבל מה ש-OpenAI בנתה מכניס וריאנט ערמומי יותר. במקום שההקשר יירקב מחלון סופי שמתמלא, עכשיו הוא נרקב מהמרכז החוצה: ברגע ששגיאה נכנסת לפרופיל המשתמש הקבוע, היא פוגמת בשקט בכל תשובה שבאה אחר כך. זה לא Context Rot מסורתי מאובדן מידע – זה ריקבון ממידע שגוי שהמערכת מתייחסת אליו כבר-סמכא. ומשום שמשתמשים לא יכולים לראות אותו או להסירו בקלות, הם עשויים לעולם לא לדעת למה הבינה המלאכותית שלהם הולכת ונהיית גרועה יותר .

הנה מה שבאמת קורה מתחת למכסה המנוע – ולמה אתם צריכים להיות מודאגים.

איך מנוע הזיכרון Dreaming V3 עובד

Dreaming V3 זונחת לחלוטין את רשימת הזיכרונות השמורים המפורשים. במקומם, מנוע סינתוז רץ ברקע לאחר שהשיחות מסתיימות, קורא את כל היסטוריית הצ׳אטים של המשתמש כדי להסיק העדפות, דפוסי עבודה, אילוצים אישיים ופרטים אחרים – והכל בלי שום פקודת ״זכור את זה״ ידנית .

השינויים הארכיטקטוניים המרכזיים כוללים:

• סריקת היסטוריה מלאה. המערכת כבר לא מסתמכת על פריטים שסימנתם – היא קוראת פשוטו כמשמעו, הכל .
• העדפות מוסקות. היא מחלצת פרטים מרומזים מהערות אגביות והתנהגויות עבר שאולי מעולם לא התכוונתם לאחסן כאלה .
• גיבוש בין מפגשים. תהליך ״חלימה״ רץ במצב לא מקוון, פותר סתירות ומעדכן פרטים ישנים .
• ייצוג מסונתז. מה שמאוחסן זה לא תמליל מילה-במילה של הדברים שאמרתם, אלא תיאור דחוס, מיוצר-מודל, של מי שאתם .

משתמשים יכולים לצפות בסיכום זיכרון בהגדרות, אבל שכבת הנתונים הגולמיים הבסיסית לא חשופה ישירות . זה יוצר פער ביקורתי שהופך לקריטי כשהמערכת מתחילה לטעות.

בדיקות ZDNet מצאו כשלי דיוק נרחבים

הכתב דיוויד גווירץ מ-ZDNet בחן את הזיכרון המשודרג בהרחבה ומצא בעיות דיוק חמורות ושיטתיות שמחמירות עם הזמן .

• הנחות לא מעודכנות נשארות לצמיתות. ChatGPT אחסן תארי עבודה ישנים, פרויקטים שפג תוקפם, והעדפות מיושנות, ואז התייחס אליהם כאל עובדות עדכניות בכל אינטראקציה עוקבת .
• טעויות שוליות הופכות לתורה מסיני. הבינה המלאכותית נועלת טעויות קטנות ומשתמשת באותו ביטחון כמו לידע עובדתי מאומת. פרט לא נכון בודד ואז מזהם בשקט עשרות תגובות עתידיות .
• התפשטות בלתי נראית. מידע פגום מהזיכרון מעוות תשובות בלי שום אינדיקציה גלויה שמשהו לא בסדר. משתמשים עשויים לעולם לא להבין שהבינה המלאכותית עובדת מהקשר פגום – עד שהנזק כבר התפשט על פני הרבה שיחות .
• פרופילים מפורטים אבל שגויים. המערכת יצרה פרופילים אישיים מפורטים שהיו סבירים אבל שגויים, וקיבעה כל תגובה להנחות יסוד שגויות .

גווירץ תיאר את Dreaming V3 כ״נצחון טכני״ שמוצמד ל״פיצ׳ר חסר אחריות״ . הבעיה המרכזית היא לא שהבינה המלאכותית עושה טעויות – אלא שהטעות הופכת לתשתית קבועה ובלתי נראית לכל מה שתשאלו אחר כך.

פער הביקורת: מה ש-OpenAI לא תראה לכם

שאלות נפוצות על הזיכרון של OpenAI מכילות הודאה הרסנית בשקט: ״בעוד שסיכום הזיכרון אמור ללכוד את הפרטים החשובים ביותר, הוא לא יכלול את כל מה ש-ChatGPT זוכר בהתבסס על השיחות שלכם. אם אתם רוצים לדעת האם ChatGPT זכר משהו, פשוט תשאלו בצ׳אט״ .

דף סיכום הזיכרון הוא סקירה קריאה-לאדם של הפרופיל המסונתז, לא חלון מלא למה שהמודל בעצם מאחסן ומשתמש בו . זה אומר שמשתמשים לא יכולים לבצע ביקורת מלאה על מה ש-ChatGPT ״יודע״ עליהם דרך ממשק ההגדרות בלבד . תאלצו ללכת לדוג – לבקש מהבינה המלאכותית לחשוף את ההנחות הנסתרות שלה עליכם – וזה לא אמין ולא פרקטי לשימוש שוטף.

למה ״פשוט תמחקו את זה״ לא פותר את הבעיה

קיימות אופציות לנהל או לטהר את הזיכרון, אבל כל אחת נושאת מגבלות משמעותיות.

• כיבוי הזיכרון עשוי לא למחוק את מה שכבר מאוחסן. ZDNet דיווחה שהשבתת הפיצ׳ר לא בהכרח מוחקת את הנתונים שהמערכת כבר סינתזה .
• מחיקה ידנית היא שבירה. משתמשים יכולים לסקור ולמחוק רשומות זיכרון בודדות בהגדרות, אבל תהליך החלימה יכול ללמוד מחדש את אותם פרטים מההיסטוריית הצ׳אט הקיימת בפעם הבאה שירוץ .
• סינתוז אוטומטי מחדש שוטף. משום ש-Dreaming V3 מסנתזת הקשר מחדש באופן שוטף, פשוט מחיקת זיכרונות רשומים לא מונעת מהמערכת להסיק מידע דומה שוב משיחות עבר .
• רוב המשתמשים לא יבדקו עד שזה ישבר. הסימן הגלוי הראשון לזיכרון פגום מגיע לעיתים קרובות אחרי שהמידע המורעל כבר עיצב תגובות רבות .

ה-Context Rot החדש: ריקבון מהפרופיל החוצה

״ריקבון הקשר״ (Context Rot) מתאר כיצד הביצועים של מודלי שפה גדולים מידרדרים ככל שחלונות ההקשר מתמלאים – מידע ישן נדחק על ידי תוכן חדש, והפלטים סוטים מהמצב האמיתי של המשתמש . Dreaming V3 תוכנן במפורש כדי להילחם בבעיה הזו בין מפגשים, תוך טיפול ב״אתגרי הקיפאון, הנכונות והסקאלביליות שאנחנו צופים בהם כשמיישמים זיכרון על מאות מיליוני המשתמשים וטווחי הזמן הרב-שנתיים בצ׳אט GPT״ .

אבל מה ש-OpenAI בנתה מכניס וריאנט ערמומי יותר. במקום שההקשר יירקב מחלון סופי שמתמלא, עכשיו הוא נרקב מהמרכז החוצה: ברגע ששגיאה נכנסת לפרופיל המשתמש הקבוע, היא פוגמת בשקט בכל תשובה שבאה אחר כך. זה לא Context Rot מסורתי מאובדן מידע – זה ריקבון ממידע שגוי שהמערכת מתייחסת אליו כבר-סמכא. ומשום שמשתמשים לא יכולים לראות אותו או להסירו בקלות, הם עשויים לעולם לא לדעת למה הבינה המלאכותית שלהם הולכת ונהיית גרועה יותר .