AnswersPublished21 sources
האם מודל AI יכול לתקן מודל אחר? הניסוי של GPT-6 Astra מסקרן, אבל מוגבל
לפי החוקרים, GPT 6 Astra ערכה 0.016% ממשקולות Qwen3.5 0.8B, וציון המודל ב MATH 500 עלה מ 7.9% ל 48.1% — בעיקר לאחר צמצום לולאות חשיבה חוזרות. הניסוי נעזר בבדיקות ובכלי Python.
פורסם על ידינערך באמצעות GPT-6 Lunaהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- לפי החוקרים, GPT 6 Astra ערכה 0.016% ממשקולות Qwen3.5 0.8B, וציון המודל ב MATH 500 עלה מ 7.9% ל 48.1% — בעיקר לאחר צמצום לולאות חשיבה חוזרות.
- הניסוי נעזר בבדיקות ובכלי Python. הרצה שתוארה בדיווחים נמשכה כ 20 שעות, כך ש״בלי אימון״ לא פירושו בלי עבודה או משאבי מחשוב.
- מודל Qwen הערוך והערכה חוזרת שדווחה תומכים במידה מסוימת בשחזור התוצאה, אך אינם מוכיחים שהשיטה יעילה באופן רחב במודלים ובמשימות אחרות.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did MIT CSAIL researchers Rikiya Takehi, Jayden Teoh, Alex Zhang and Omar Khattab report in their November 2 blog post about GPT-6 Astr. Article summary: The researchers reported that GPT-6 Astra could improve another neural network by editing its weights directly rather than training it; the available evidence corroborates the headline Qwen result of 7.9% to 48.1% on MAT. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
האם מודל שפה גדול יכול לא רק לענות על שאלות, אלא גם לאבחן ולתקן מודל AI אחר? חוקרים ממעבדת CSAIL של MIT — ריקיה טאקהי, ג׳יידן טאו, אלכס ג׳אנג ועומר ח׳טאב — דיווחו ש-GPT-6 Astra ערכה ישירות חלק קטן מהמשקולות של Qwen3.5-0.8B. בדוגמה הבולטת שלהם, הציון של Qwen במבחן MATH-500 עלה מ-7.9% ל-48.1%. 3
6
35
המספר מרשים, אבל הפרשנות החשובה יותר זהירה: לפי החוקרים, השינוי טיפל בעיקר בלולאות חשיבה חוזרות שמנעו מהמודל להשלים תשובות. זה לא בהכרח אומר ש-Astra העניקה ל-Qwen יכולת מתמטית חדשה. 3
6
35
מה פירוש ״תכנות במרחב המשקולות״?
החוקרים מכנים את הגישה תכנות במרחב המשקולות (weight-space programming): שימוש במודל שפה כדי לבחון או לשנות ישירות את המספרים — המשקולות — שמכוונים את פעולתה של רשת עצבית. בניסוי עם Qwen, לפי הדיווחים, Astra שינתה 131,072 משקולות, שהן 0.016% מכלל המשקולות במודל. 6
33
השינוי לווה בעלייה משמעותית בתוצאת MATH-500. החוקרים דיווחו גם על שיפור ב-GSM8K וב-IFEval, אך הדיווחים הזמינים אינם מציגים שחזור בלתי תלוי של שתי התוצאות האלה. 35
42
חשוב גם לדייק בתיאור התהליך: Astra לא קיבלה את המשקולות, ביצעה שינוי יחיד ופעלה לבדה. לפי התיאורים, היא נעזרה בבדיקות באמצעות Python ובהרצות של המודל כדי להבין את דפוסי הפעולה שלו לפני העריכה. כלומר, השינוי הסופי נעשה במשקולות, אבל האבחון כלל שימוש בכלים וניסוי חוזר. 20
32
התקלה שנמצאה: חשיבה שחוזרת על עצמה
האבחון התמקד בנטייה של Qwen להיתקע בלולאות חשיבה. לפני העריכה, לפי הדיווח, 93% מהתשובות שלו ב-MATH-500 הגיעו למגבלת הפלט של הניסוי. לאחריה, שיעור התשובות האלה ירד ל-33.1%. החוקרים ייחסו את השיפור לשינוי ממוקד בחישוב הפנימי של המודל. 3
20
הנתונים האלה מציעים שהעריכה עזרה ל-Qwen להשתמש טוב יותר ביכולות שכבר היו בו: כשהמודל חדל להיתקע, הוא הצליח יותר פעמים להשלים תשובות. בניסוי נפרד עם Gemma 3 270M — מודל שלפי הדיווח נטה הרבה פחות להיתקע — לא נרשם שיפור משמעותי במתמטיקה. ההשוואה מחזקת את ההסבר שמדובר בתיקון של חולשה מסוימת, אך אינה מוכיחה שעריכת משקולות לעולם לא תוכל לשפר יכולות אחרות. 35
״בלי אימון״ לא אומר בלי מאמץ
התהליך כלל אינטראקציות ובדיקות חוזרות. תיאור אחד של ההרצה מציין כ-20 שעות ו-158 סבבי שיחה; תיאור נוסף מדבר על סביבת Python ועל מספר מוגבל של הרצות קדימה עם שאלות תרגול. 20
32
לכן, את הביטוי ״בלי אימון״ כדאי להבין במובן הטכני: השיטה לא השתמשה בירידת גרדיאנט או בלולאת אימון רגילה. אין פירוש הדבר שהיא לא דרשה זמן, חישוב וניסויים. הממצאים גם לא קובעים מהו מספר הבדיקות המינימלי הדרוש כדי לבצע עריכה מוצלחת במקרים אחרים. 20
32
מה הנתונים מוכיחים — ומה עדיין פתוח
ההשוואה בין 7.9% ל-48.1% מתייחסת לתוצאות שדווחו במסגרת ההגדרה המסוימת של הניסוי. היא לא מוכיחה בפני עצמה שהמודל רכש יכולות חשיבה חדשות ורחבות. הירידה בשיעור התשובות שנתקעו, לצד הניסוי עם Gemma, מתיישבת יותר עם תיקון של חולשה מוגדרת. 3
35
יש גם חומר שמאפשר בדיקה נוספת: גרסה ערוכה של Qwen זמינה לציבור, ודיווח על שחזור שלה הציג ציון של 51.0% ב-MATH-500. זה מחזק את האפשרות לשחזר את תוצאת המודל הערוך, אבל בדיקת מודל שכבר נערך אינה זהה לשחזור עצמאי של תהליך האבחון והעריכה שביצעה Astra. 33
54
הדיווחים הזמינים אינם מציגים אישור בלתי תלוי לשיפורים ב-GSM8K וב-IFEval. גם התוצאות של Qwen ושל Gemma אינן מראות שהגישה תשפר באופן אמין כל מודל או כל משימה. החוקרים אמרו שהם מפתחים מדד הערכה וכלי עזר שיתמכו בבדיקה ובעריכה של משקולות — צעדים שעשויים לעזור לברר עד כמה השיטה ניתנת לשחזור. 16
35
42
ניסויים נוספים — אבל טענות נפרדות
החוקרים תיארו גם ניסויים בזיהוי רשתות לפי המשקולות שלהן וביצירת רשת שמשחקת Breakout. לפי תיאורם, Astra כתבה את המשקולות של רשת המשחק בתשובה אחת, בלי אימון או כלים, והיא השיגה תוצאה גבוהה פי 20 מקו בסיס של PPO שאומן במשך 500 מיליון צעדים. זו טענה על השוואה מסוימת במשחק מסוים, ולא הוכחה שהשיטה עדיפה באופן כללי על למידת חיזוק. 9
47
הניסויים האלה מרחיבים את הרעיון שמאחורי תכנות במרחב המשקולות, אך אין לערבב בינם לבין תיקון Qwen. בניסוי Qwen נעשה שימוש באבחון בסיוע כלים; דוגמת Breakout הוצגה כניסוי נפרד ליצירת רשת. 9
20
32
המסקנה הסבירה כרגע היא שמדובר בהדגמה מוקדמת ומעניינת של תיקון מודל בעזרת AI ועריכה ישירה של פרמטרים. המספרים בולטים, והחומרים שפורסמו מאפשרים בחינה נוספת, אבל הראיות עדיין מצומצמות יותר מהטענה שמודלי שפה יכולים לשדרג מודלים אחרים בזול ובאמינות באופן כללי. 16
33
35
54
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "האם מודל AI יכול לתקן מודל אחר? הניסוי של GPT-6 Astra מסקרן, אבל מוגבל"?
לפי החוקרים, GPT 6 Astra ערכה 0.016% ממשקולות Qwen3.5 0.8B, וציון המודל ב MATH 500 עלה מ 7.9% ל 48.1% — בעיקר לאחר צמצום לולאות חשיבה חוזרות.
What are the key points to validate first?
לפי החוקרים, GPT 6 Astra ערכה 0.016% ממשקולות Qwen3.5 0.8B, וציון המודל ב MATH 500 עלה מ 7.9% ל 48.1% — בעיקר לאחר צמצום לולאות חשיבה חוזרות. הניסוי נעזר בבדיקות ובכלי Python. הרצה שתוארה בדיווחים נמשכה כ 20 שעות, כך ש״בלי אימון״ לא פירושו בלי עבודה או משאבי מחשוב.
What should I do next in practice?
מודל Qwen הערוך והערכה חוזרת שדווחה תומכים במידה מסוימת בשחזור התוצאה, אך אינם מוכיחים שהשיטה יעילה באופן רחב במודלים ובמשימות אחרות.
Sources
snowrock.comMIT researchers used GPT-6 Astra to fix Qwen’s thinking loops
aicoder.comAI Coding Live News — Real-Time X/Twitter Updates & Breakthroughs
rikiyat.github.ioSparks of Weight-Space Programming: LLMs can natively read & write neural network weights
huggingface.coakhaliq/Qwen3.5-0.8B-weight-space-programming · Hugging Face
daily.dev