DeepSeek Harness ו-Cordis: התשתית ההפיכה שמקרבת את ה-AI לשיפור עצמי מבוקר

DeepSeek Harness (או DSH) אינה מדגימה ש-DeepSeek בנתה מערכת אוטונומית לשיפור עצמי רקורסיבי, ובוודאי שאינה מוכיחה שהחברה השיגה בינה כללית מלאכותית (AGI). המשמעות המשכנעת יותר של הפרויקט היא ארכיטקטונית: DSH יוצרת סביבת הרצה לסוכנים שבה כלים, מתאמי מודלים, מנגנוני סשן ואפילו לולאת הסוכן עצמה יכולים להיחשב רכיבים ניתנים להחלפה. כך נעשה קל ובטוח יותר לבצע ניסויים חוזרים — בדיוק סוג התשתית שנדרשת לשיפור עצמי מוגבל. 2526

הרעיון המרכזי: לשפר את ה-Harness, לא רק את המודל

המונח "שיפור עצמי רקורסיבי" יכול לתאר כמה תהליכים שונים. מערכת יכולה לשפר תוצר מסוים, כמו אלגוריתם; לסייע לחוקרים לבנות מודל יורש חזק יותר; או לשנות את התשתית החוזרת שקובעת כיצד סוכן פועל. מחקרים בתחום מבחינים בין שיפור עצמי מוגבל, שנמדד מול מעריך חיצוני וקבוע, לבין RSI פתוח, שבו המערכת משנה גם את המנגנון או את הקריטריונים שבאמצעותם היא משתפרת. 1

DSH מכוונת בעיקר לשכבת התשתית. במקום לדרוש מסוכן לשכתב את המשקלים של הרשת העצבית שלו, הארכיטקטורה מאפשרת לו להתנסות ברכיבים שסביב המודל: פרומפטים, כלים, זיכרון, מדיניות, תזמור ולולאות ביצוע. רכיב חזק יותר יכול להיות מותקן, להיבדק ולהישאר במערכת — או להוסר אם התוצאות שלו גרועות.

זהו צעד משמעותי לעבר RSI בגישה הנדסית, אך הוא אינו שקול למערכת שמעצבת באופן עצמאי יורש בעל יכולות גבוהות יותר, קובעת לעצמה יעדים או מתחילה "פיצוץ מודיעיני" בלתי נשלט.

כיצד Cordis הופכת שינויי Runtime לניתנים לשחזור

DSH בנויה על Cordis — סביבת תוספים המבוססת על מה שהתיעוד שלה מכנה "קומפוזביליות במרחב ובזמן". המסגרת מטפלת בשתי בעיות שונות שנוצרות כאשר תוכנה משתנה בזמן שהיא פועלת: מה קורה לאורך זמן כאשר רכיבים נטענים או מוסרים, וכיצד הרכיבים מתקשרים זה עם זה במערכת הנוכחית. 1718

קומפוזביליות בזמן: ביטול השפעות מנוהלות

תוסף יכול לשנות Runtime משותף באמצעות רישום משאבים, מאזינים, שירותים או מצב פנימי אחר. במערכות תוספים רגילות, ההסרה תלויה לעיתים קרובות בקוד ניקוי שנכתב ידנית — תהליך שעלול להשאיר אחריו דליפות או מצב רפאים.

Cordis מקשרת את שינויי ה-Runtime ל"השפעות" שניתן לבטל. כאשר רכיב מוסר, סביבת ההרצה יכולה להפעיל את הפעולות ההפוכות המתאימות ובסדר הנכון. המטרה אינה להריץ את התוסף לאחור, ואינה להפוך כל פעולה חיצונית שביצע הסוכן. המטרה היא להחזיר את מבנה ה-Runtime הרלוונטי לתצורה קודמת ותקינה. 2024

ההבדל הזה קריטי. מנגנון Rollback לרישום תוספים אינו יכול לבטל אוטומטית הודעת דוא״ל שנשלחה, קובץ שנמחק, מודל שאומן על נתונים מזוהמים או פעולה בלתי הפיכה בעולם הפיזי. ההפיכות של Cordis היא אפוא תכונת תוכנה מוגבלת — לא ערובה אוניברסלית לבטיחות.

קומפוזביליות במרחב: ניהול יחסי תלות

רכיבים תלויים זה בזה. כלי עשוי להזדקק לרשם כלים; מודול זיכרון עשוי להזדקק למנהל סשנים; ולולאת סוכן עשויה להסתמך על מתאם מודל וממשק כלים.

קומפוזביליות במרחב מאפשרת לרכיבים להצהיר על יחסי התלות האלה, כדי שסביבת ההרצה תוכל לתאם הפעלה, השבתה, החלפה והתאוששות כאשר ספקים או תלויות משתנים. כך ניתן להגדיר מחדש סוכן מודולרי בלי להתייחס לכל המערכת כאל גוש אחד ושביר. 1820

השילוב בין השפעות הפיכות לבין קומפוזיציה מודעת-תלויות מאפשר ניסויים בטוחים יותר, החלפת רכיבים, התאוששות מתקלות ועדכוני Runtime טרנזקציוניים. אלה תנאי יסוד שימושיים לשיפור עצמי: הם מוזילים את המחיר של ניסוי בשינוי — וגם של דחייתו.

מה DSH מרמזת על האסטרטגיה של DeepSeek בדרך ל-AGI

העיצוב מצביע על מסלול מערכתי לסוכנים כלליים יותר ויותר: להפוך את סביבת הביצוע לגמישה מספיק כך שהסוכן יוכל לשפר את המנגנונים שבאמצעותם הוא מבצע משימות.

גישה כזו מסיטה את תשומת הלב מהמודל לבדו. גם מודל קבוע עשוי להיות שימושי וחזק יותר בפועל כאשר מספקים לו כלים, זיכרון, תכנון, הערכה ומנגנוני התאוששות טובים יותר. אם סוכן יכול להציע שינויים במנגנונים האלה, לבדוק אותם מול קריטריונים חיצוניים ולהשאיר רק גרסאות מוצלחות, ניתן ליצור לולאת שיפור מבוקרת.

עם זאת, הארכיטקטורה כשלעצמה אינה מוכיחה ש-DSH מבצעת שיפור עצמי רקורסיבי באופן אוטונומי. הראיות הזמינות מתארות Runtime ו-Harness בקוד פתוח — לא לולאה מלאה ומודגמת שבה DSH מייצרת, מעריכה, בוחרת ומטמיעה באופן עצמאי גרסאות שהולכות ומשתפרות. 2526

DSH מול מאמצים אחרים הקשורים ל-RSI

המערכות שנדונות בשיח על RSI פועלות בשכבות שונות של תהליך השיפור. הצגתן כתחליפים ישירים עלולה לטשטש את ההבדלים הטכניים החשובים ביניהן.

AlphaEvolve של Google DeepMind: אבולוציה של אלגוריתמים באמצעות מעריכים

AlphaEvolve היא לולאת אופטימיזציה ישירה יותר. סוכנים המבוססים על Gemini מציעים שינויים בקוד, מעריכים אוטומטיים נותנים לתוצאות ציון, ותהליך אבולוציוני מקדם מועמדים מבטיחים ומייצר וריאציות חדשות. Google מתארת שימושים במערכת לגילוי אלגוריתמים ולאופטימיזציה, בין היתר בבעיות מתמטיות ובתשתיות מחשוב. 2314

החוזקה המרכזית שלה היא המשוב: ניתן לבדוק מועמד מול יעד שניתן למדידה ובמקרים רבים גם לאימות מכונה. DSH, לעומתה, היא בעיקר ארכיטקטורת Runtime להרכבה ולהחלפה בטוחות של רכיבים. AlphaEvolve מתמקדת באבולוציה של פתרונות; Cordis מתמקדת ביכולת לשנות מערכת חיה בלי לפרק אותה.

RSI Index של OpenAI: מדידה, לא מנגנון שיפור

החומרים הציבוריים הזמינים כאן מתארים את RSI Index כמדד מצרפי המבוסס על מערך הערכות של מחקר AI. לפי התיאור הזה, מדובר בכלי למעקב אחר יכולות — לא במנוע שמשנה מודל או מפעיל לולאת שיפור. ציון במדד יכול להצביע על ביצועים במשימות מסוימות הקשורות לשיפור עצמי, אך אינו מוכיח כשלעצמו שמערכת משתפרת באופן אוטונומי בזמן פריסה. 3435

לכן נכון יותר להשוות את המדד ל-DSH כשכבת מדידה, ולא כיריב ארכיטקטוני. המידע הציבורי שסופק אינו מספיק כדי להעריך באופן עצמאי את בניית המדד או את משמעות השינויים בציוניו.

המחקר האוטומטי של Anthropic: הפיכת מחקר AI לאוטומטי

החוקרים האוטומטיים של Anthropic עוסקים בצוואר בקבוק אחר: כיצד להשתמש בפיקוח חלש יותר כדי לאמן או להנחות מודל חזק יותר. הסוכנים מציעים רעיונות, מריצים ניסויים וחוזרים על תהליך המחקר בנושא פיקוח "מחלש לחזק". 4958

העבודה הזו קרובה יותר לאוטומציה של חלקים ממחקר ה-AI ומבדיקות יישור המטרות, בעוד DSH מתמקדת בהחלפת רכיבים ברמת ה-Runtime. בעתיד, שתי הגישות עשויות להשלים זו את זו: סוכן מחקר יוכל לגלות רכיבים טובים יותר, ו-Harness הפיך יוכל לבדוק ולהטמיע אותם תוך אפשרות חזרה מבוקרת.

גם הדיון הציבורי הרחב יותר של Anthropic כולל הסתייגות חשובה: החברה אומרת שעדיין לא הגיעה לשיפור עצמי רקורסיבי אוטונומי לחלוטין, וש-RSI אינו בלתי נמנע. 59

Tencent Hyra-1.0 ו-MiniMax M2.7: אין די ראיות להשוואה טכנית

המקורות שסופקו אינם כוללים תיעוד טכני אמין וניתן לאימות עצמאי לגבי Hyra-1.0 של Tencent או M2.7 של MiniMax. לכן יהיה מטעה לייחס לאחת מהמערכות ארכיטקטורת RSI מסוימת או להציג אותה באותה רמת ודאות ראייתית כמו DSH, AlphaEvolve או עבודותיה המפורסמות של Anthropic.

מדוע הסביבה ולולאות המשוב הופכות לחזית התחרות

הנכס התחרותי המרכזי הוא יותר ויותר המערכת שמקיפה את מודל הבסיס. ארבעה רכיבים חשובים במיוחד:

1. סביבה בעלת יכולות. סביבות מבודדות, מאגרי קוד, כלים, סימולטורים, מערכי נתונים, משאבי מחשוב ונתוני טלמטריה מהפריסה קובעים אילו ניסויים הסוכן יכול לבצע בפועל.
2. משוב אוטומטי. בדיקות, מאמתים, בנצ'מרקים, פונקציות תגמול ומדדים ממערכות ייצור הופכים שינויים מוצעים לניסויים מדידים. AlphaEvolve ממחישה את הערך שבשילוב רעיונות שמייצר מודל עם מעריכים אוטומטיים. 26
3. יכולת התאוששות. ניהול גרסאות, בידוד, מעקב מקור, Rollback ושערי אישור מאפשרים להריץ ניסויים רבים בלי שכישלון אחד יגרום נזק קבוע למערכת. ההשפעות ההפיכות של Cordis מטפלות ישירות בשכבה הזו. 1720
4. איטרציה מצטברת. אם כל סבב משפר מעט את הקידוד, ההערכה, הניסוי או התשתית, הסבבים הבאים עשויים להפוך למהירים או זולים יותר. עם זאת, הראיות הנוכחיות תומכות בצורה ברורה יותר בשיפור עצמי מוגבל מאשר ב-RSI פתוח ומקיים-את-עצמו. 1

זו הסיבה שמודל עם ביצועים מעט נמוכים יותר בבנצ'מרק עדיין עשוי להיות תחרותי אם הוא פועל בתוך סביבה טובה יותר, עם כלים, משוב והתאוששות חזקים. הלולאה — ולא רק נקודת הבדיקה של המודל — הופכת למוצר.

בעיית השליטה שעדיין לא נפתרה

יכולת התאוששות מפחיתה סיכון; היא אינה מעלימה אותו. כפתור Rollback אינו מבטיח שכל תוצאה של פעולת סוכן תהיה נצפית או ניתנת לביטול. שינויים עלולים להשפיע על נתונים, הרשאות, שירותים חיצוניים, גבולות אבטחה או החלטות אנושיות שמחוץ לשליטת ה-Runtime.

איטרציה מהירה יותר עלולה גם להעצים מטרות גרועות, ניצול פרצות בהגדרת היעד, נסיגות נסתרות ותלויות שקשה להבין. שליטה אנושית דורשת אפוא יותר ממנגנון חזרה לאחור: השינויים צריכים להישאר נצפים, ניתנים להערכה עצמאית, כפופים להרשאות, ניתנים לייחוס ובאמת הפיכים בכל המערכת — לא רק בתוך גרף התוספים.

המסקנה החזקה ביותר היא גם המאופקת ביותר: DSH ו-Cordis מראות כיצד אפשר לתכנן תשתית לסוכן שמבצע שינוי עצמי מוגבל וניתן לשחזור. AlphaEvolve מדגימה את כוחו של תהליך אבולוציוני המונחה בידי מעריכים, ועבודתה של Anthropic מראה כיצד AI יכול להשתתף יותר ויותר במחקר. יחד, המאמצים הללו מצביעים על התקדמות לעבר לולאות שיפור בסיוע AI — אך אינם מוכיחים RSI אוטונומי, פתוח ומתמשך, או AGI. 14959