Câu trả lờiĐã xuất bản21 nguồn
GPT-6 Astra chỉnh một phần rất nhỏ trọng số Qwen: điểm toán tăng từ 7,9% lên 48,1%
Nhóm nghiên cứu cho biết Astra đã chỉnh 131.072 trọng số, tương đương 0,016% của Qwen3.5 0.8B; điểm MATH 500 tăng từ 7,9% lên 48,1%, chủ yếu sau khi giảm tình trạng suy luận lặp. Quá trình có dùng công cụ Python để thăm dò và kiểm tra mô hình.
Đăng bởiBiên tập bằng GPT-6 LunaHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Nhóm nghiên cứu cho biết Astra đã chỉnh 131.072 trọng số, tương đương 0,016% của Qwen3.5 0.8B; điểm MATH 500 tăng từ 7,9% lên 48,1%, chủ yếu sau khi giảm tình trạng suy luận lặp.
- Quá trình có dùng công cụ Python để thăm dò và kiểm tra mô hình. Một lượt thử được mô tả kéo dài khoảng 20 giờ, nên “không huấn luyện” không đồng nghĩa với ít công sức hay không tốn tài nguyên.
- Checkpoint đã chỉnh sửa được công bố và có lượt chạy lại đạt 51,0% trên MATH 500, nhưng điều đó chưa chứng minh phương pháp hoạt động rộng rãi với các mô hình và tác vụ khác.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What did MIT CSAIL researchers Rikiya Takehi, Jayden Teoh, Alex Zhang and Omar Khattab report in their November 2 blog post about GPT-6 Astr. Article summary: The researchers reported that GPT-6 Astra could improve another neural network by editing its weights directly rather than training it; the available evidence corroborates the headline Qwen result of 7.9% to 48.1% on MAT. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
Các nhà nghiên cứu thuộc Phòng thí nghiệm Khoa học máy tính và Trí tuệ nhân tạo của MIT (MIT CSAIL) cho biết GPT-6 Astra có thể hỗ trợ sửa một mạng nơ-ron khác bằng cách phân tích rồi chỉnh trực tiếp các tham số của mạng đó. Trong ví dụ nổi bật nhất, Astra thay đổi một phần nhỏ trọng số của Qwen3.5-0.8B, sau đó điểm trên bộ đánh giá toán học MATH-500 tăng từ 7,9% lên 48,1%. Cách hiểu thận trọng hơn là chỉnh sửa này đã xử lý một lỗi vòng lặp suy luận nghiêm trọng, chứ chưa chắc đã tạo thêm năng lực toán học mới cho mô hình. 3
6
35
Astra đã làm gì với Qwen?
Nhóm nghiên cứu gọi phương pháp này là lập trình trong không gian trọng số (weight-space programming): dùng một mô hình ngôn ngữ để đọc hoặc sửa các con số tham số của mạng nơ-ron khác, thay vì cập nhật chúng bằng quy trình huấn luyện dựa trên gradient thông thường. Theo các tường thuật về thử nghiệm Qwen, Astra đã chỉnh 131.072 trọng số, tương đương 0,016% tổng số trọng số của mô hình. 6
33
Mức tăng trên MATH-500 là đáng kể. Nhóm nghiên cứu cũng báo cáo kết quả tốt hơn trên GSM8K và IFEval, nhưng các nguồn hiện có chưa cho thấy hai kết quả này đã được tái lập độc lập. 35
42
Đây cũng không phải trường hợp Astra tự sửa trọng số chỉ trong một bước mà không cần kiểm tra. Các tường thuật mô tả quá trình dùng Python để thăm dò và chạy mô hình, tìm hiểu hành vi của Qwen rồi mới chỉnh sửa. Nói cách khác, thay đổi cuối cùng nằm trong trọng số, nhưng quy trình được báo cáo có sử dụng công cụ và chẩn đoán qua nhiều vòng. 20
32
Điểm nghẽn chính là suy luận lặp
Theo báo cáo, nhóm tập trung vào xu hướng Qwen mắc kẹt trong những vòng lặp suy nghĩ lặp đi lặp lại. Trước khi chỉnh sửa, 93% câu trả lời của Qwen trên MATH-500 được cho là chạm giới hạn đầu ra của thử nghiệm; sau đó, tỷ lệ này giảm còn 33,1%. Nhóm nghiên cứu cho rằng cải thiện đến từ việc tác động có mục tiêu vào một phần tính toán bên trong mô hình. 3
20
Điều này giúp đặt kết quả vào đúng bối cảnh: chỉnh sửa dường như giúp Qwen sử dụng hiệu quả hơn năng lực vốn có bằng cách giảm một lỗi khiến mô hình khó hoàn tất câu trả lời. Trong một thử nghiệm riêng, cách làm tương tự không tạo ra cải thiện toán học đáng kể với Gemma 3 270M — mô hình được cho là ít mắc vòng lặp hơn. Sự tương phản này ủng hộ cách giải thích “sửa lỗi cản trở năng lực sẵn có”, dù chưa thể chứng minh rằng chỉnh trọng số không bao giờ giúp cải thiện năng lực khác. 35
“Không huấn luyện” vẫn cần nhiều công sức
Quy trình được mô tả có nhiều lượt trao đổi, thử nghiệm và kiểm tra. Một tường thuật cho biết lượt chạy kéo dài khoảng 20 giờ với 158 lượt hội thoại; một nguồn khác mô tả phiên làm việc Python cùng ngân sách chạy thử trên các bài toán luyện tập. 20
32
Vì vậy, “không huấn luyện” không có nghĩa là “không tốn công hay tài nguyên”. Phương pháp này tránh bước giảm gradient và quy trình huấn luyện truyền thống, nhưng vẫn dựa vào thử nghiệm để xác định vấn đề và kiểm tra cách can thiệp. Kết quả hiện có cũng chưa xác lập mức thử nghiệm tối thiểu cần thiết để việc chỉnh sửa thành công. 20
32
Kết quả cho thấy điều gì, và chưa chứng minh điều gì?
Con số trước–sau rất ấn tượng, nhưng cần được đọc trong phạm vi thiết lập thử nghiệm được báo cáo. Riêng kết quả MATH-500 chưa đủ để kết luận mô hình đã có thêm năng lực suy luận rộng hơn. Tỷ lệ mắc vòng lặp giảm và phép so sánh với Gemma nghiêng về khả năng đây là một biện pháp sửa lỗi cụ thể. 3
35
Một checkpoint Qwen đã chỉnh sửa hiện có thể được tải về; một lượt dựng lại dựa trên các tài liệu đã công bố được cho là đạt 51,0% trên MATH-500. Đây là dấu hiệu cho thấy điểm toán của checkpoint có thể được tái lập, nhưng chạy lại một mô hình đã chỉnh sửa không đồng nghĩa với việc độc lập tái hiện toàn bộ quá trình Astra phát hiện và tìm ra cách sửa. 33
54
Các nguồn hiện có chưa xác nhận độc lập những cải thiện được báo cáo trên GSM8K và IFEval. Kết quả với Qwen và Gemma cũng chưa chứng minh phương pháp sẽ cải thiện đáng tin cậy mọi mô hình hay tác vụ. Nhóm nghiên cứu cho biết họ đang xây dựng bộ đánh giá và công cụ hỗ trợ mô hình khám phá, chỉnh sửa trọng số; các công cụ này có thể giúp kiểm tra khả năng tái lập, nhưng bản thân kế hoạch đó chưa phải bằng chứng xác nhận phương pháp. 16
35
42
Các thử nghiệm khác là những tuyên bố riêng
Nhóm nghiên cứu còn mô tả các thử nghiệm nhận diện mạng nơ-ron từ trọng số và tạo một mạng chơi Breakout. Theo lời nhóm, Astra viết trọng số của mạng Breakout chỉ trong một câu trả lời, không huấn luyện và không dùng công cụ; mạng đạt điểm cao gấp 20 lần một mô hình PPO được huấn luyện trong 500 triệu bước. Đây là kết quả của một thiết lập trò chơi và phép so sánh cụ thể, không phải bằng chứng rằng phương pháp nói chung vượt trội hơn học tăng cường. 9
47
Những ví dụ này mở rộng ý tưởng lập trình trong không gian trọng số, nhưng không nên đánh đồng với thử nghiệm sửa Qwen. Thí nghiệm Qwen dùng công cụ để hỗ trợ chẩn đoán; ví dụ Breakout được trình bày như một thử nghiệm riêng về tạo mạng. 9
20
32
Kết luận có cơ sở nhất hiện nay là đây là một ví dụ ban đầu đáng chú ý về việc dùng AI hỗ trợ sửa mô hình bằng cách chỉnh trực tiếp tham số. Các con số được báo cáo gây ấn tượng và tài liệu công bố cho phép người khác xem xét, nhưng bằng chứng hiện có vẫn hẹp hơn nhiều so với tuyên bố rằng mô hình ngôn ngữ có thể nâng cấp các mô hình khác một cách rẻ, ổn định và phổ quát. 16
33
35
54
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "GPT-6 Astra chỉnh một phần rất nhỏ trọng số Qwen: điểm toán tăng từ 7,9% lên 48,1%" là gì?
Nhóm nghiên cứu cho biết Astra đã chỉnh 131.072 trọng số, tương đương 0,016% của Qwen3.5 0.8B; điểm MATH 500 tăng từ 7,9% lên 48,1%, chủ yếu sau khi giảm tình trạng suy luận lặp.
Những điểm chính cần xác nhận đầu tiên là gì?
Nhóm nghiên cứu cho biết Astra đã chỉnh 131.072 trọng số, tương đương 0,016% của Qwen3.5 0.8B; điểm MATH 500 tăng từ 7,9% lên 48,1%, chủ yếu sau khi giảm tình trạng suy luận lặp. Quá trình có dùng công cụ Python để thăm dò và kiểm tra mô hình. Một lượt thử được mô tả kéo dài khoảng 20 giờ, nên “không huấn luyện” không đồng nghĩa với ít công sức hay không tốn tài nguyên.
Tôi nên làm gì tiếp theo trong thực tế?
Checkpoint đã chỉnh sửa được công bố và có lượt chạy lại đạt 51,0% trên MATH 500, nhưng điều đó chưa chứng minh phương pháp hoạt động rộng rãi với các mô hình và tác vụ khác.
Nguồn
snowrock.comMIT researchers used GPT-6 Astra to fix Qwen’s thinking loops
aicoder.comAI Coding Live News — Real-Time X/Twitter Updates & Breakthroughs
rikiyat.github.ioSparks of Weight-Space Programming: LLMs can natively read & write neural network weights
huggingface.coakhaliq/Qwen3.5-0.8B-weight-space-programming · Hugging Face
daily.dev