AnswersPublished21 sources
GPT-6 Astra baiki gelung penaakulan Qwen dengan mengubah sebahagian kecil pemberatnya
Penyelidik melaporkan Astra mengubah 131,072 pemberat, bersamaan 0.016% daripada jumlah pemberat Qwen3.5 0.8B; skor MATH 500 meningkat daripada 7.9% kepada 48.1%, terutamanya selepas gelung penaakulan berulang dikuran... Proses itu melibatkan pemeriksaan menggunakan Python dan ujian berulang.
Diterbitkan olehDisunting dengan GPT-6 LunaImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Penyelidik melaporkan Astra mengubah 131,072 pemberat, bersamaan 0.016% daripada jumlah pemberat Qwen3.5 0.8B; skor MATH 500 meningkat daripada 7.9% kepada 48.1%, terutamanya selepas gelung penaakulan berulang dikuran...
- Proses itu melibatkan pemeriksaan menggunakan Python dan ujian berulang. Satu laporan menyebut kira kira 20 jam dan 158 giliran perbualan—jadi “tanpa latihan” bukan bermaksud tanpa usaha atau pengiraan.
- Terdapat model suntingan yang boleh diperiksa dan laporan ujian semula MATH 500, tetapi bukti setakat ini belum menunjukkan kaedah tersebut boleh menambah baik pelbagai model dan tugasan secara konsisten.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did MIT CSAIL researchers Rikiya Takehi, Jayden Teoh, Alex Zhang and Omar Khattab report in their November 2 blog post about GPT-6 Astr. Article summary: The researchers reported that GPT-6 Astra could improve another neural network by editing its weights directly rather than training it; the available evidence corroborates the headline Qwen result of 7.9% to 48.1% on MAT. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
Penyelidik MIT CSAIL Rikiya Takehi, Jayden Teoh, Alex Zhang dan Omar Khattab melaporkan bahawa GPT-6 Astra membantu membaiki rangkaian neural lain dengan menganalisis dan mengubah pemberatnya secara langsung. Dalam contoh utama mereka, Astra mengubah sebahagian kecil pemberat Qwen3.5-0.8B dan skor model itu dalam MATH-500 meningkat daripada 7.9% kepada 48.1%. Tafsiran yang lebih berhati-hati: suntingan itu menangani masalah gelung penaakulan yang serius, bukan semestinya menambah kebolehan matematik baharu. 3
6
35
Apa yang dilaporkan oleh penyelidik
Penyelidik menamakan pendekatan ini pengaturcaraan ruang pemberat (weight-space programming). Maksudnya, model bahasa digunakan untuk memeriksa atau mengubah nilai berangka dalam rangkaian neural lain—bukan melatihnya melalui kaedah biasa yang mengemas kini pemberat menggunakan kecerunan. Dalam eksperimen Qwen, Astra dilaporkan mengubah 131,072 pemberat, atau 0.016% daripada keseluruhan pemberat model itu. 6
33
Peningkatan yang dilaporkan dalam MATH-500 adalah besar. Penyelidik turut melaporkan peningkatan pada GSM8K dan IFEval, tetapi laporan yang tersedia tidak menunjukkan pengulangan bebas bagi kedua-dua keputusan itu. 35
42
Astra juga tidak sekadar mengubah pemberat tanpa bantuan dalam satu langkah. Laporan eksperimen menerangkan penggunaan pemeriksaan berasaskan Python dan forward pass untuk menyiasat tingkah laku Qwen sebelum suntingan dibuat. Ringkasnya, perubahan akhirnya memang berlaku pada pemberat, tetapi proses yang dilaporkan merangkumi penggunaan alat dan diagnosis berulang. 20
32
Masalah utamanya: penaakulan yang berulang-ulang
Diagnosis penyelidik tertumpu pada kecenderungan Qwen untuk terperangkap dalam gelung pemikiran berulang. Sebelum suntingan dibuat, 93% jawapan Qwen dalam MATH-500 dilaporkan mencecah had keluaran eksperimen. Selepas itu, bahagiannya turun kepada 33.1%. Penyelidik mengaitkan perubahan tersebut dengan suntingan yang disasarkan pada pengiraan dalaman model. 3
20
Perincian ini membantu menjelaskan hasilnya: suntingan itu kelihatan membolehkan Qwen menggunakan keupayaan sedia ada dengan lebih berkesan, kerana masalah berulang tadi boleh menghalangnya daripada menyiapkan jawapan. Sebagai perbandingan, ujian berasingan menggunakan Gemma 3 270M—model yang dilaporkan jarang terperangkap dalam gelung—tidak menghasilkan peningkatan matematik yang bermakna. Perbezaan ini menyokong penjelasan bahawa Qwen sedang dibaiki, walaupun ia tidak membuktikan bahawa suntingan pemberat tidak boleh meningkatkan kebolehan lain. 35
“Tanpa latihan” masih memerlukan kerja yang banyak
Proses yang dilaporkan melibatkan interaksi dan ujian berulang. Satu laporan menyebut eksperimen berlangsung kira-kira 20 jam dan melibatkan 158 giliran perbualan. Laporan lain menerangkan sesi Python dan penggunaan sejumlah forward pass pada soalan latihan. 20
32
Jadi, “tanpa latihan” tidak bermaksud “tanpa usaha atau kos pengiraan”. Kaedah itu mengelakkan penurunan kecerunan (gradient descent) dan kitaran latihan konvensional, tetapi masih bergantung pada percubaan untuk mengenal pasti punca masalah dan menguji pembaikan. Keputusan yang dilaporkan juga belum menetapkan jumlah ujian minimum yang diperlukan untuk menghasilkan suntingan yang berjaya. 20
32
Apa yang disokong oleh bukti—dan apa yang masih belum pasti
Perbandingan utama itu mengagumkan, tetapi perlu dilihat dalam konteks. Ia mengukur prestasi sebelum dan selepas suntingan mengikut aturan ujian yang dilaporkan; dengan sendirinya, ia tidak membuktikan model memperoleh kebolehan penaakulan baharu yang luas. Perubahan pada kadar gelung dan perbandingan dengan Gemma lebih menyokong tafsiran bahawa kelemahan khusus telah dibaiki. 3
35
Ada bahan yang boleh diperiksa oleh pihak lain: satu pusat pemeriksaan Qwen yang telah disunting telah diterbitkan, dan satu pengujian semula berdasarkan bahan yang dilepaskan dilaporkan mencapai 51.0% dalam MATH-500. Ini memberi sedikit sokongan bahawa skor matematik tersebut boleh dihasilkan semula. Namun, mengulangi skor bagi model yang sudah disunting tidak sama dengan mengulangi secara bebas keseluruhan proses Astra menemui dan membuat suntingan itu. 33
54
Laporan yang tersedia belum menunjukkan pengesahan bebas terhadap peningkatan GSM8K dan IFEval. Keputusan Qwen dan Gemma juga belum membuktikan bahawa teknik ini boleh meningkatkan sebarang model atau tugasan secara konsisten. Para penyelidik berkata mereka sedang membangunkan penanda aras dan rangka kerja untuk menilai serta membantu penerokaan pemberat. Alat sedemikian boleh membantu menguji sejauh mana pendekatan ini boleh diulang, tetapi pengumuman tentang pembangunannya bukanlah pengesahan hasil itu sendiri. 16
35
42
Demonstrasi lain ialah eksperimen yang berbeza
Penyelidik turut menerangkan eksperimen untuk mentafsir rangkaian melalui pemberatnya dan menghasilkan rangkaian yang bermain Breakout. Menurut laporan mereka, Astra menulis pemberat rangkaian Breakout itu dalam satu balasan tanpa latihan atau alat, lalu memperoleh skor 20 kali lebih tinggi berbanding garis dasar PPO yang dilatih selama 500 juta langkah. Itu ialah dakwaan tentang satu tetapan permainan dan perbandingan tertentu—bukan bukti bahawa kaedah ini secara umum mengatasi pembelajaran pengukuhan. 9
47
Demonstrasi tersebut memperluas idea di sebalik pengaturcaraan ruang pemberat, tetapi tidak wajar disamakan dengan pembaikan Qwen. Eksperimen Qwen menggunakan diagnosis berbantukan alat; contoh Breakout pula dibentangkan sebagai eksperimen berasingan untuk membina rangkaian. 9
20
32
Kesimpulan yang paling berasas ialah ini merupakan contoh awal yang menarik tentang pembaikan model berbantukan AI melalui suntingan terus pada pemberat. Angka yang dilaporkan memang ketara, dan bahan yang diterbitkan membolehkan hasilnya diteliti. Namun, bukti setakat ini masih lebih terhad daripada dakwaan umum bahawa model bahasa boleh menaik taraf model lain dengan murah dan boleh diharap. 16
33
35
54
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "GPT-6 Astra baiki gelung penaakulan Qwen dengan mengubah sebahagian kecil pemberatnya"?
Penyelidik melaporkan Astra mengubah 131,072 pemberat, bersamaan 0.016% daripada jumlah pemberat Qwen3.5 0.8B; skor MATH 500 meningkat daripada 7.9% kepada 48.1%, terutamanya selepas gelung penaakulan berulang dikuran...
What are the key points to validate first?
Penyelidik melaporkan Astra mengubah 131,072 pemberat, bersamaan 0.016% daripada jumlah pemberat Qwen3.5 0.8B; skor MATH 500 meningkat daripada 7.9% kepada 48.1%, terutamanya selepas gelung penaakulan berulang dikuran... Proses itu melibatkan pemeriksaan menggunakan Python dan ujian berulang. Satu laporan menyebut kira kira 20 jam dan 158 giliran perbualan—jadi “tanpa latihan” bukan bermaksud tanpa usaha atau pengiraan.
What should I do next in practice?
Terdapat model suntingan yang boleh diperiksa dan laporan ujian semula MATH 500, tetapi bukti setakat ini belum menunjukkan kaedah tersebut boleh menambah baik pelbagai model dan tugasan secara konsisten.
Sources
snowrock.comMIT researchers used GPT-6 Astra to fix Qwen’s thinking loops
aicoder.comAI Coding Live News — Real-Time X/Twitter Updates & Breakthroughs
rikiyat.github.ioSparks of Weight-Space Programming: LLMs can natively read & write neural network weights
huggingface.coakhaliq/Qwen3.5-0.8B-weight-space-programming · Hugging Face
daily.dev