उत्तरप्रकाशित3 घंटे पहलेLast edited 2 घंटे पहले21 स्रोत

GPT-6 Astra ने Qwen के सिर्फ 0.016% वज़न बदले—गणित का स्कोर 7.9% से 48.1% तक पहुँचा

शोधकर्ताओं के अनुसार, Astra ने Qwen3.5 0.8B के 131,072 वज़न—कुल का 0.016%—बदले और MATH 500 स्कोर 7.9% से 48.1% तक पहुँचा। सुधार का मुख्य कारण बार बार दोहराए जाने वाले तर्क चक्रों को कम करना बताया गया। प्रयोग में Python के ज़रिए जाँच पड़ताल और बार बार परीक्षण शामिल थे। एक रिपोर्टेड रन में करीब 20 घंटे लगे; इसलिए “ट्र...

प्रकाशितकर्ताGPT-6 Luna से संपादितGPT Image 2 से चित्र बनाए गए

Studio Global AI के साथ खोजें और तथ्यों की जांच करें और ट्रेंडिंग पेज देखें

शोध उत्तर

मुख्य निष्कर्ष

शोधकर्ताओं के अनुसार, Astra ने Qwen3.5 0.8B के 131,072 वज़न—कुल का 0.016%—बदले और MATH 500 स्कोर 7.9% से 48.1% तक पहुँचा। सुधार का मुख्य कारण बार बार दोहराए जाने वाले तर्क चक्रों को कम करना बताया गया।
प्रयोग में Python के ज़रिए जाँच पड़ताल और बार बार परीक्षण शामिल थे। एक रिपोर्टेड रन में करीब 20 घंटे लगे; इसलिए “ट्रेनिंग के बिना” का मतलब बिना मेहनत या कंप्यूटिंग के नहीं है।
बदले हुए मॉडल का चेकपॉइंट उपलब्ध है और MATH 500 पर एक दोबारा जाँच का नतीजा भी रिपोर्ट हुआ है। फिर भी, इससे यह साबित नहीं होता कि तरीका अलग अलग मॉडल और कामों में भरोसेमंद ढंग से लागू होगा।

Illustration representing an AI system inspecting and editing neural-network weights. — What did MIT CSAIL researchers Rikiya Takehi, Jayden Teoh, Alex Zhang and Omar Khattab report in their November 2 blog post about GPT-6 AstrWeight-space programming explores whether a language model can inspect and alter another network’s parameters.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: What did MIT CSAIL researchers Rikiya Takehi, Jayden Teoh, Alex Zhang and Omar Khattab report in their November 2 blog post about GPT-6 Astr. Article summary: The researchers reported that GPT-6 Astra could improve another neural network by editing its weights directly rather than training it; the available evidence corroborates the headline Qwen result of 7.9% to 48.1% on MAT. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
openai.com

MIT CSAIL के शोधकर्ताओं रिकीया ताकेही, जेडन तेओह, एलेक्स झांग और उमर ख़त्ताब ने बताया कि GPT-6 Astra ने दूसरे न्यूरल नेटवर्क के पैरामीटर—यानी उसके व्यवहार को नियंत्रित करने वाले संख्यात्मक वज़न—सीधे बदलकर उसमें सुधार किया। उनके प्रमुख उदाहरण में Qwen3.5-0.8B का MATH-500 स्कोर 7.9% से बढ़कर 48.1% हुआ। सबसे सावधान निष्कर्ष यह है कि बदलाव ने मॉडल के बार-बार तर्क-चक्र में फँसने की समस्या को कम किया; यह अपने-आप में इस बात का प्रमाण नहीं कि Astra ने उसमें नई गणितीय क्षमता जोड़ दी। 3 6 35

प्रयोग में क्या किया गया?

शोधकर्ताओं ने इस तरीके को वेट-स्पेस प्रोग्रामिंग नाम दिया है। इसमें भाषा मॉडल दूसरे नेटवर्क के वज़न को पढ़ने या बदलने की कोशिश करता है—इसके बजाय कि पारंपरिक ग्रेडिएंट-आधारित ट्रेनिंग से नेटवर्क को अपडेट किया जाए। Qwen वाले प्रयोग में Astra ने 131,072 वज़न बदले, जो मॉडल के कुल वज़न का 0.016% बताया गया। 6 33

MATH-500 पर दर्ज सुधार बड़ा था। GSM8K और IFEval पर भी बढ़त की रिपोर्ट दी गई, लेकिन उपलब्ध रिपोर्टिंग में इन दोनों नतीजों की स्वतंत्र पुनरावृत्ति दिखाई नहीं गई है। 35 42

यह ऐसा मामला नहीं था जिसमें Astra ने बिना किसी जाँच के एक ही बार में वज़न बदल दिए हों। रिपोर्टों के अनुसार, बदलाव से पहले उसने Python-आधारित पड़ताल और मॉडल के फ़ॉरवर्ड पास का उपयोग करके उसके व्यवहार को समझने की कोशिश की। यानी अंतिम हस्तक्षेप वज़नों में था, लेकिन वहाँ तक पहुँचने की प्रक्रिया में टूल, परीक्षण और क्रमिक जाँच शामिल थे। 20 32

निशाना गणित नहीं, दोहराव का चक्र था

रिपोर्टेड जाँच में Qwen की एक समस्या सामने आई: वह कई बार एक ही तरह की सोच को दोहराते हुए अटक जाता था। बदलाव से पहले MATH-500 के 93% जवाब प्रयोग की तय आउटपुट सीमा तक पहुँच जाते थे; बदलाव के बाद यह हिस्सा घटकर 33.1% रह गया। शोधकर्ताओं ने सुधार को मॉडल की आंतरिक गणना में लक्षित बदलाव से जोड़ा। 3 20

इससे नतीजे को समझना आसान होता है। संभव है कि बदलाव ने Qwen की पहले से मौजूद क्षमता को बेहतर ढंग से इस्तेमाल करने में मदद की हो—क्योंकि दोहराव उसे जवाब पूरा करने से रोक रहा था। तुलना के लिए, Gemma 3 270M में ऐसे चक्र बहुत कम बताए गए: उसके सिर्फ 8.5% जवाब टोकन सीमा तक पहुँचते थे। उस मॉडल पर Astra के बदलाव से गणित के स्कोर में कोई अर्थपूर्ण सुधार नहीं हुआ। यह “मौजूदा क्षमता के रास्ते की रुकावट हटाने” वाली व्याख्या को बल देता है, हालाँकि इससे यह साबित नहीं होता कि वज़न-संपादन दूसरे मामलों में कभी नई क्षमता नहीं बढ़ा सकता। 35

“ट्रेनिंग नहीं” का मतलब कम मेहनत नहीं

रिपोर्टेड प्रक्रिया में बार-बार बातचीत और परीक्षण हुए। एक विवरण में प्रयोग करीब 20 घंटे चला और उसमें 158 संवाद-चक्र लगे; दूसरे विवरण में Python सेशन और अभ्यास-प्रश्नों पर फ़ॉरवर्ड पास का बजट बताया गया है। 20 32

इसलिए “ट्रेनिंग के बिना” को “बिना खर्च या मेहनत के” नहीं समझना चाहिए। इस तरीके में ग्रेडिएंट डीसेंट और पारंपरिक ट्रेनिंग लूप का इस्तेमाल नहीं हुआ, लेकिन समस्या पहचानने और बदलाव जाँचने के लिए प्रयोग करने पड़े। उपलब्ध रिपोर्ट यह तय नहीं करती कि सफल संपादन के लिए कम-से-कम कितने परीक्षण ज़रूरी हैं। 20 32

नतीजे क्या बताते हैं—और क्या अभी साफ़ नहीं है?

7.9% से 48.1% की तुलना ध्यान खींचती है, लेकिन उसका संदर्भ ज़रूरी है। यह बताए गए परीक्षण-तरीके के तहत बदलाव से पहले और बाद का प्रदर्शन है; अकेले इससे यह साबित नहीं होता कि मॉडल ने व्यापक नई तर्क-क्षमता हासिल कर ली। दोहराव में आई कमी और Gemma की तुलना, इसके बजाय, एक खास कमज़ोरी की मरम्मत की ओर इशारा करती है। 3 35

बदले हुए Qwen का चेकपॉइंट उपलब्ध है। जारी किए गए काम से मॉडल दोबारा बनाने वाले एक व्यक्ति ने MATH-500 पर 51.0% स्कोर की रिपोर्ट दी। इससे गणित वाले नतीजे को दोहराकर देखने का कुछ आधार मिलता है, लेकिन बदले हुए चेकपॉइंट का स्कोर दोबारा हासिल करना और Astra की पूरी खोज-प्रक्रिया को स्वतंत्र रूप से दोहराना एक ही बात नहीं है। 33 54

GSM8K और IFEval पर बताए गए सुधारों की स्वतंत्र पुष्टि उपलब्ध रिपोर्टिंग में स्थापित नहीं है। न Qwen और Gemma के नतीजे यह दिखाते हैं कि यह तरीका मनचाहे मॉडल या काम में लगातार सुधार करेगा। शोधकर्ताओं ने ऐसी वेट-स्पेस पड़ताल को जाँचने और उसमें मदद देने के लिए बेंचमार्क तथा एक टूल-सेट बनाने की बात कही है। इससे भविष्य में यह परखने में मदद मिल सकती है कि तरीका कितना दोहराया जा सकता है। 16 35 42

दूसरे प्रदर्शन अलग प्रयोग हैं

शोधकर्ताओं ने वज़नों से नेटवर्क का काम समझने और Breakout खेलने वाला नेटवर्क बनाने के प्रयोगों का भी ज़िक्र किया। उनके मुताबिक, Astra ने Breakout नेटवर्क के वज़न एक ही जवाब में लिखे—बिना ट्रेनिंग या टूल के—और उस खास तुलना में 500 मिलियन कदमों तक प्रशिक्षित PPO बेसलाइन से 20 गुना अधिक स्कोर किया। यह एक विशेष गेम और तुलना से जुड़ा दावा है; इससे यह निष्कर्ष नहीं निकलता कि यह तरीका आम तौर पर रीइन्फोर्समेंट लर्निंग से बेहतर है। 9 47

ये उदाहरण वेट-स्पेस प्रोग्रामिंग के विचार को व्यापक बनाते हैं, लेकिन इन्हें Qwen की मरम्मत वाले प्रयोग के साथ नहीं मिलाना चाहिए। Qwen में समस्या पहचानने के लिए टूल की मदद ली गई थी; Breakout का उदाहरण नेटवर्क बनाने का अलग प्रयोग था। 9 20 32

फिलहाल सबसे ठोस निष्कर्ष यही है: AI की मदद से दूसरे मॉडल के पैरामीटर सीधे बदलकर उसकी किसी खास समस्या की मरम्मत करने का यह शुरुआती और दिलचस्प उदाहरण है। रिपोर्टेड आँकड़े उल्लेखनीय हैं और जारी सामग्री की जाँच की जा सकती है। लेकिन अभी का प्रमाण इस बड़े दावे से सीमित है कि भाषा मॉडल दूसरे मॉडल को सस्ते और भरोसेमंद तरीके से हर काम में बेहतर बना सकते हैं। 16 33 35 54

Studio Global AI

अपना शोध जारी रखें

इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।

Studio Global AI के साथ खोजें और तथ्यों की जांच करें

लोग पूछते भी हैं