AnswersPublished21 sources
En liten ändring gav ett stort lyft för Qwen – genom att stoppa tankeloopar
Forskarna uppger att Astra ändrade 0,016 procent av Qwen3.5 0.8B:s vikter. Modellens resultat på MATH 500 steg från 7,9 till 48,1 procent, främst efter att upprepade tankeloopar minskade.
Publicerad avRedigerad med GPT-6 LunaBilder genererade med GPT Image 2
Research answer
Key takeaways
- Forskarna uppger att Astra ändrade 0,016 procent av Qwen3.5 0.8B:s vikter. Modellens resultat på MATH 500 steg från 7,9 till 48,1 procent, främst efter att upprepade tankeloopar minskade.
- Arbetet byggde på undersökningar med Python och upprepade tester. En redovisad körning tog omkring 20 timmar – ”utan träning” betyder alltså inte utan tidsåtgång eller beräkningar.
- En redigerad modell och en rapporterad omkörning ger visst stöd för att matematikresultatet går att återskapa.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did MIT CSAIL researchers Rikiya Takehi, Jayden Teoh, Alex Zhang and Omar Khattab report in their November 2 blog post about GPT-6 Astr. Article summary: The researchers reported that GPT-6 Astra could improve another neural network by editing its weights directly rather than training it; the available evidence corroborates the headline Qwen result of 7.9% to 48.1% on MAT. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
MIT CSAIL-forskarna Rikiya Takehi, Jayden Teoh, Alex Zhang och Omar Khattab rapporterar att GPT-6 Astra kunde undersöka och ändra en annan neural nätverksmodell genom att redigera dess vikter. I det uppmärksammade exemplet ändrade Astra en liten del av Qwen3.5-0.8B:s vikter, varefter modellens resultat på testet MATH-500 steg från 7,9 till 48,1 procent. Den försiktiga tolkningen är att ändringen rättade till ett allvarligt problem med upprepade tankeloopar – inte att Astra på egen hand tillförde modellen en helt ny matematisk förmåga. 3
6
35
Vad forskarna gjorde
Forskarna kallar metoden weight-space programming: en språkmodell undersöker eller ändrar en annan modells numeriska vikter, i stället för att uppdatera dem med den vanliga gradientbaserade träningen. I Qwen-experimentet ska Astra ha ändrat 131 072 vikter, vilket motsvarar 0,016 procent av modellens totala antal. 6
33
Resultatförbättringen på MATH-500 var stor i den redovisade jämförelsen. Forskarna uppgav också förbättringar på GSM8K och IFEval, men den rapportering som finns tillgänglig visar inte oberoende upprepningar av de resultaten. 35
42
Det var inte fråga om att Astra ändrade vikterna helt på egen hand i ett enda steg. Beskrivningarna av experimentet säger att modellen använde Python-baserade verktyg och så kallade forward passes – beräkningar där modellen får bearbeta indata – för att undersöka Qwens beteende innan den gjorde ändringen. Slutresultatet låg alltså i vikterna, men vägen dit innefattade verktyg och upprepade felsökningar. 20
32
Förbättringen verkar ha stoppat upprepningar
Forskarna fokuserade på att Qwen fastnade i repetitiva resonemang. Före ändringen ska 93 procent av modellens svar på MATH-500 ha nått experimentets gräns för hur långt ett svar fick vara. Efteråt var andelen 33,1 procent. Forskarna kopplade förbättringen till en riktad ändring av modellens interna beräkningar. 3
20
Det ger ett mer avgränsat sätt att förstå resultatet: ändringen kan ha hjälpt Qwen att använda sin befintliga kapacitet bättre genom att minska ett fel som hindrade modellen från att avsluta svaren. I ett separat test av Gemma 3 270M, en modell som enligt forskarna fastnade i loopar betydligt mer sällan, ledde metoden inte till någon meningsfull förbättring i matematik. Skillnaden talar för att Qwen-resultatet handlade om att laga ett specifikt problem, även om den inte bevisar att viktredigering aldrig kan förbättra andra förmågor. 35
”Utan träning” betydde inte utan arbete
Experimentet krävde upprepade tester och en hel del interaktion. En redogörelse beskriver en körning på omkring 20 timmar och 158 samtalsturer. En annan beskriver en Python-session och ett begränsat antal beräkningar på övningsuppgifter. 20
32
Uttrycket ”utan träning” bör därför inte tolkas som ”utan större arbete eller beräkningskostnad”. Metoden använde inte gradientbaserad optimering eller en vanlig träningsloop, men forskarna behövde ändå testa sig fram för att hitta problemet och utvärdera en lösning. Resultatet fastställer inte heller hur mycket testning som alltid krävs för att en sådan ändring ska lyckas. 20
32
Vad resultaten säger – och inte säger
Jämförelsen före och efter ändringen är slående, men den gäller den specifika testuppsättningen som forskarna redovisade. Den visar inte i sig att modellen fick en bred, ny förmåga att resonera. Förändringen i hur ofta Qwen fastnade i loopar, tillsammans med jämförelsen med Gemma, pekar snarare mot en riktad reparation av en särskild svaghet. 3
35
Det finns material som andra kan granska: en redigerad Qwen-modell har gjorts tillgänglig, och en rapporterad omkörning av det publicerade arbetet nådde 51,0 procent på MATH-500. Det ger stöd för att matematikresultatet går att återskapa. Men att återskapa ett resultat med en redigerad modell är inte samma sak som att oberoende upprepa Astras hela felsökningsprocess. 33
54
Den tillgängliga rapporteringen bekräftar inte oberoende GSM8K- och IFEval-resultat. Testerna med Qwen och Gemma visar inte heller att tekniken pålitligt förbättrar godtyckliga modeller eller uppgifter. Forskarna har sagt att de utvecklar ett benchmark och ett verktyg för att utvärdera och stödja den här typen av utforskning av vikter. Sådana verktyg kan hjälpa till att pröva hur reproducerbar metoden är. 16
35
42
Andra demonstrationer är separata experiment
Forskarna beskrev också experiment där modeller tolkade nätverk utifrån deras vikter och skapade ett nätverk som kunde spela Breakout. Enligt deras redogörelse skrev Astra Breakout-nätverkets vikter i ett enda svar, utan träning eller verktyg. Nätverket fick 20 gånger högre resultat än en PPO-baslinje som tränats i 500 miljoner steg. Det gäller en specifik spelmiljö och jämförelse – inte ett bevis för att metoden generellt slår förstärkningsinlärning. 9
47
De exemplen breddar idén bakom weight-space programming, men bör inte blandas ihop med Qwen-reparationen. I Qwen-experimentet användes verktyg för att undersöka problemet; Breakout-resultatet presenterades som ett separat experiment där ett nätverk konstruerades. 9
20
32
Den rimliga slutsatsen är att detta är ett tidigt och intressant exempel på AI-assisterad reparation av en modell genom direkta ändringar av dess parametrar. De rapporterade siffrorna är anmärkningsvärda och det publicerade materialet gör granskning möjlig. Men hittills är beläggen betydligt mer begränsade än ett generellt påstående om att språkmodeller billigt och pålitligt kan uppgradera andra modeller. 16
33
35
54
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "En liten ändring gav ett stort lyft för Qwen – genom att stoppa tankeloopar"?
Forskarna uppger att Astra ändrade 0,016 procent av Qwen3.5 0.8B:s vikter. Modellens resultat på MATH 500 steg från 7,9 till 48,1 procent, främst efter att upprepade tankeloopar minskade.
What are the key points to validate first?
Forskarna uppger att Astra ändrade 0,016 procent av Qwen3.5 0.8B:s vikter. Modellens resultat på MATH 500 steg från 7,9 till 48,1 procent, främst efter att upprepade tankeloopar minskade. Arbetet byggde på undersökningar med Python och upprepade tester. En redovisad körning tog omkring 20 timmar – ”utan träning” betyder alltså inte utan tidsåtgång eller beräkningar.
What should I do next in practice?
En redigerad modell och en rapporterad omkörning ger visst stöd för att matematikresultatet går att återskapa.
Sources
snowrock.comMIT researchers used GPT-6 Astra to fix Qwen’s thinking loops
aicoder.comAI Coding Live News — Real-Time X/Twitter Updates & Breakthroughs
rikiyat.github.ioSparks of Weight-Space Programming: LLMs can natively read & write neural network weights
huggingface.coakhaliq/Qwen3.5-0.8B-weight-space-programming · Hugging Face
daily.dev