AnswersPublished21 sources
GPT-6 Astra ændrede 0,016 % af Qwens vægte – og løste en fastlåst tankegang
Forskerne rapporterer, at Astra ændrede 0,016 % af Qwen3.5 0.8B’s vægte, hvorefter modellens resultat på MATH 500 steg fra 7,9 % til 48,1 %. Forbedringen ser primært ud til at komme af, at Qwen sjældnere gik i gentagende tankesløjfer – ikke af, at modellen fik nye matematiske evner.
Udgivet afRedigeret med GPT-6 LunaBilleder genereret med GPT Image 2
Research answer
Key takeaways
- Forskerne rapporterer, at Astra ændrede 0,016 % af Qwen3.5 0.8B’s vægte, hvorefter modellens resultat på MATH 500 steg fra 7,9 % til 48,1 %.
- Forbedringen ser primært ud til at komme af, at Qwen sjældnere gik i gentagende tankesløjfer – ikke af, at modellen fik nye matematiske evner.
- Forsøget omfattede Python baserede undersøgelser og gentagne tests. En offentlig modelversion og en genkørsel af MATH 500 giver noget mulighed for efterprøvning, men beviser ikke, at metoden virker bredt.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did MIT CSAIL researchers Rikiya Takehi, Jayden Teoh, Alex Zhang and Omar Khattab report in their November 2 blog post about GPT-6 Astr. Article summary: The researchers reported that GPT-6 Astra could improve another neural network by editing its weights directly rather than training it; the available evidence corroborates the headline Qwen result of 7.9% to 48.1% on MAT. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
MIT CSAIL-forskerne Rikiya Takehi, Jayden Teoh, Alex Zhang og Omar Khattab fortæller, at GPT-6 Astra kunne undersøge og redigere en anden models vægte – de tal, der er med til at bestemme, hvordan modellen svarer. I deres mest opsigtsvækkende eksempel ændrede Astra en lille del af Qwen3.5-0.8B’s vægte, og modellens resultat på den matematiske test MATH-500 steg fra 7,9 % til 48,1 %. 3
6
35
Den vigtigste pointe er dog ikke nødvendigvis, at Astra gav Qwen nye matematiske evner. Forskerne peger på en mere afgrænset forklaring: Redigeringen hjalp modellen med at undgå gentagne tankesløjfer, som ellers ofte forhindrede den i at færdiggøre sine svar.
En lille ændring med et stort udsving
Forskerne kalder metoden weight-space programming – direkte oversat programmering i vægtrummet. I stedet for at ændre en model gennem almindelig, gradientbaseret træning undersøger eller redigerer en sprogmodel en anden models numeriske vægte direkte.
I Qwen-forsøget ændrede Astra ifølge rapporteringen 131.072 vægte, svarende til 0,016 % af modellens samlede antal. MATH-500-resultatet gik fra 7,9 % til 48,1 %. Forskerne rapporterede også forbedringer på GSM8K og IFEval, men der foreligger ikke uafhængige gentagelser af de resultater i den tilgængelige rapportering. 6
35
42
Det var ikke blot et spørgsmål om, at Astra ændrede vægtene på må og få. Forsøget beskrives som en proces med Python-baserede undersøgelser og gennemløb af modellen, hvor Astra først forsøgte at finde årsagen til Qwens adfærd og derefter foretog en målrettet ændring. 20
32
Færre svar gik i ring
Forskerne rettede blikket mod Qwens tendens til at gentage sine ræsonnementer. Før ændringen nåede 93 % af modellens svar på MATH-500 ifølge rapporteringen forsøgets grænse for maksimal svarlængde. Efter ændringen gjaldt det 33,1 %. Forskerne tilskriver forbedringen en målrettet ændring i modellens interne beregninger. 3
20
Det gør resultatet lettere at fortolke: Qwen kan have fået bedre mulighed for at bruge evner, den allerede havde, fordi den sjældnere blev fanget i en fejl, der forhindrede den i at nå frem til et svar.
En sammenligning med Gemma 3 270M støtter den forklaring. Den model gik ifølge forskerne langt sjældnere i gentagende tankesløjfer, og redigeringerne gav ikke nogen meningsfuld forbedring i matematikresultatet. Det taler for, at Qwen-forsøget handlede om at fjerne en konkret hindring – men det beviser ikke, at metoden aldrig kan forbedre andre evner. 35
»Uden træning« betyder ikke uden arbejde
Udtrykket »uden træning« kan lyde, som om ændringen skete hurtigt og uden nævneværdige ressourcer. Sådan beskrives forsøget ikke. En gennemgang omtaler omkring 158 samtalerunder og et forløb på cirka 20 timer, hvor Astra arbejdede med Python-baserede undersøgelser og gentagne modelkørsler. 20
32
Metoden undgik gradientbaseret træning og en traditionel træningsproces, men krævede stadig tid, beregninger og systematiske forsøg for at finde problemet og afprøve en løsning. De rapporterede tal fastslår ikke, hvor lidt testning der som minimum skal til for at få en vellykket ændring.
Hvad resultaterne viser – og hvad de ikke viser
Resultatet på MATH-500 er markant, men det skal ses i sammenhæng med forsøgets opsætning. En forbedring fra 7,9 % til 48,1 % viser ikke i sig selv, at modellen har fået bredere eller helt nye ræsonnementsevner. Faldet i andelen af svar, der ramte længdegrænsen, og sammenligningen med Gemma peger snarere på en målrettet reparation af en bestemt svaghed. 3
35
Der er materiale, andre kan undersøge: En redigeret Qwen-model er gjort tilgængelig, og en rapporteret genkørsel af det offentliggjorte arbejde opnåede 51,0 % på MATH-500. Det styrker grundlaget for at efterprøve selve modellens matematikresultat. Men at teste en redigeret model er ikke det samme som uafhængigt at gentage hele processen, hvor Astra fandt frem til ændringen. 33
54
Den tilgængelige rapportering dokumenterer heller ikke uafhængig bekræftelse af forbedringerne på GSM8K og IFEval. Resultaterne med Qwen og Gemma viser heller ikke, at metoden pålideligt kan forbedre vilkårlige modeller eller opgaver. Forskerne siger, at de er ved at udvikle en benchmark og et værktøj til at undersøge og redigere vægte. Det kan gøre det lettere at teste, hvor reproducerbar metoden er. 16
35
42
Andre demonstrationer er ikke det samme Qwen-forsøg
Forskerne beskriver også andre eksperimenter, blandt andet med at udlede, hvad neurale netværk gør, ved at undersøge deres vægte, og med at skabe et netværk, der kan spille Breakout. I deres beskrivelse skrev Astra Breakout-netværkets vægte i ét svar uden træning eller værktøjer. Netværket scorede 20 gange højere end en PPO-baseline, der var trænet i 500 millioner trin. Det er en påstand om en bestemt spilsituation og sammenligning – ikke dokumentation for, at metoden generelt slår reinforcement learning. 9
47
De øvrige demonstrationer udvider idéen bag weight-space programming, men bør ikke blandes sammen med Qwen-resultatet. Qwen blev undersøgt med værktøjsunderstøttet fejlsøgning; Breakout-eksemplet blev præsenteret som et separat forsøg på at konstruere et netværk. 9
20
32
Den forsigtige konklusion er, at forsøget giver et tidligt og interessant eksempel på AI-assisteret reparation af en model ved direkte at ændre dens parametre. Resultaterne er bemærkelsesværdige, og det offentliggjorte materiale gør nærmere kontrol mulig. Men indtil videre er belægget smallere end en generel påstand om, at sprogmodeller billigt og pålideligt kan opgradere andre modeller. 16
33
35
54
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "GPT-6 Astra ændrede 0,016 % af Qwens vægte – og løste en fastlåst tankegang"?
Forskerne rapporterer, at Astra ændrede 0,016 % af Qwen3.5 0.8B’s vægte, hvorefter modellens resultat på MATH 500 steg fra 7,9 % til 48,1 %.
What are the key points to validate first?
Forskerne rapporterer, at Astra ændrede 0,016 % af Qwen3.5 0.8B’s vægte, hvorefter modellens resultat på MATH 500 steg fra 7,9 % til 48,1 %. Forbedringen ser primært ud til at komme af, at Qwen sjældnere gik i gentagende tankesløjfer – ikke af, at modellen fik nye matematiske evner.
What should I do next in practice?
Forsøget omfattede Python baserede undersøgelser og gentagne tests. En offentlig modelversion og en genkørsel af MATH 500 giver noget mulighed for efterprøvning, men beviser ikke, at metoden virker bredt.
Sources
snowrock.comMIT researchers used GPT-6 Astra to fix Qwen’s thinking loops
aicoder.comAI Coding Live News — Real-Time X/Twitter Updates & Breakthroughs
rikiyat.github.ioSparks of Weight-Space Programming: LLMs can natively read & write neural network weights
daily.devAstra can read and write weights to improve Qwen - daily.dev
github.comGitHub - adiant211/wspacetest