ОтветыОпубликовано21 источники
Как GPT-6 Astra помогла исправить повторяющиеся рассуждения Qwen
По данным исследователей, Astra изменила 131 072 веса — 0,016% параметров Qwen3.5 0.8B. Для диагностики использовали Python и многократные проверки.
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- По данным исследователей, Astra изменила 131 072 веса — 0,016% параметров Qwen3.5 0.8B.
- Для диагностики использовали Python и многократные проверки. Один описанный запуск занял около 20 часов и включал 158 ходов диалога, поэтому «без обучения» не означает «без затрат времени и вычислений».
- Опубликованный чекпойнт и повторный запуск MATH 500 дают основания проверить результат, но не доказывают, что метод надёжно работает на разных моделях и задачах.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did MIT CSAIL researchers Rikiya Takehi, Jayden Teoh, Alex Zhang and Omar Khattab report in their November 2 blog post about GPT-6 Astr. Article summary: The researchers reported that GPT-6 Astra could improve another neural network by editing its weights directly rather than training it; the available evidence corroborates the headline Qwen result of 7.9% to 48.1% on MAT. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
Исследователи MIT CSAIL — Рикия Такэхи, Джейден Тео, Алекс Чжан и Омар Хаттаб — сообщили, что GPT-6 Astra помогла исправить другую нейросеть, анализируя и напрямую меняя её параметры. В показательном эксперименте Astra изменила небольшую часть весов Qwen3.5-0.8B, после чего результат модели на MATH-500 вырос с 7,9% до 48,1%. Осторожнее всего трактовать это как устранение серьёзной проблемы с зацикливанием, а не как простое «добавление математических способностей». 3
6
35
Что сделали исследователи
Авторы назвали подход программированием в пространстве весов (weight-space programming). Вместо того чтобы корректировать модель традиционным обучением на основе градиентного спуска, языковая модель анализирует и меняет числовые веса другой нейросети. В эксперименте с Qwen, согласно опубликованным данным, Astra изменила 131 072 веса — это 0,016% всех параметров модели. 6
33
На MATH-500 результат заметно улучшился. Исследователи также сообщили о росте показателей на GSM8K и IFEval, но доступные материалы не подтверждают независимое повторение этих двух результатов. 35
42
Важно и то, что Astra не просто внесла правку вслепую за один шаг. По описаниям эксперимента, она использовала Python для исследования поведения Qwen и проверяла модель на примерах, прежде чем изменить веса. Иными словами, итоговая правка была внесена непосредственно в параметры, но путь к ней включал инструменты и последовательную диагностику. 20
32
Главной проблемой были повторяющиеся рассуждения
Исследователи сосредоточились на склонности Qwen застревать в циклах повторяющихся рассуждений. До правки 93% ответов на MATH-500, как сообщается, достигали установленного лимита вывода. После изменения весов таких ответов стало 33,1%. Авторы связали улучшение с целевой правкой внутренних вычислений модели. 3
20
Это помогает понять, откуда взялся прирост: правка, похоже, позволила Qwen эффективнее использовать уже имевшиеся возможности, устранив сбой, который мешал завершать ответы. В отдельном эксперименте с Gemma 3 270M — моделью, которая, по данным авторов, гораздо реже зацикливалась, — заметного улучшения по математике не получили. Такой контраст согласуется с версией о «ремонте» конкретной слабости, хотя сам по себе не доказывает, что правка весов не может улучшать другие способности. 35
«Без обучения» — не значит без затрат
Описанный процесс требовал многократных проверок и взаимодействия с моделью. Один из отчётов говорит о запуске продолжительностью около 20 часов и 158 ходах диалога; другой описывает работу в Python и ограниченный бюджет прямых проходов модели на тренировочных задачах. 20
32
Поэтому слова «без обучения» не стоит понимать как «без усилий и вычислений». Метод обходился без градиентного спуска и стандартного цикла обучения, но для диагностики проблемы и проверки вмешательства всё равно нужны были эксперименты. Опубликованные результаты не устанавливают, сколько проверок необходимо для успешной правки в общем случае. 20
32
Что показывают данные — и чего они пока не доказывают
Сравнение до и после правки выглядит впечатляюще, но его нужно рассматривать в контексте. Оно показывает результаты конкретного эксперимента, а не доказывает, что модель обрела широкие новые способности к рассуждению. Изменение частоты зацикливания и сравнение с Gemma скорее указывают на устранение определённой помехи. 3
35
Материалы можно изучить и проверить: изменённую версию Qwen выложили в открытый доступ. Также сообщалось о повторном запуске MATH-500 на восстановленной по опубликованным материалам модели — он дал результат 51,0%. Это поддерживает воспроизводимость математического результата, но повторная проверка готовой версии не равнозначна независимому повторению всего процесса, с помощью которого Astra нашла нужную правку. 33
54
Доступные публикации не подтверждают независимое повторение результатов на GSM8K и IFEval. Эксперименты с Qwen и Gemma также не показывают, что метод надёжно улучшает произвольные модели или решает любые задачи. Авторы сообщили, что разрабатывают бенчмарк и инструментарий для оценки и поддержки такого исследования весов. Это помогло бы проверить, насколько подход воспроизводим, но пока остаётся планом. 16
35
42
Другие демонстрации — отдельные эксперименты
Исследователи также описали эксперименты по распознаванию поведения сетей по их весам и созданию нейросети для игры Breakout. По их словам, Astra составила веса такой сети за один ответ, без обучения и инструментов, а результат оказался в 20 раз выше, чем у PPO-модели, обученной на 500 миллионах шагов. Это утверждение относится к конкретной игре и конкретному сравнению, а не доказывает общее превосходство метода над обучением с подкреплением. 9
47
Эти примеры расширяют идею программирования в пространстве весов, но их не следует смешивать с исправлением Qwen. В эксперименте с Qwen использовали диагностику с помощью инструментов; пример с Breakout был отдельной демонстрацией создания сети. 9
20
32
Самый обоснованный вывод пока скромнее громких заголовков: это ранний и любопытный пример того, как ИИ может помочь исправить конкретную проблему другой модели, напрямую изменив её параметры. Результаты заметны, а опубликованные материалы позволяют их проверять. Но имеющихся данных недостаточно, чтобы утверждать, что языковые модели уже способны дёшево и надёжно улучшать любые другие модели. 16
33
35
54
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Как GPT-6 Astra помогла исправить повторяющиеся рассуждения Qwen»?
По данным исследователей, Astra изменила 131 072 веса — 0,016% параметров Qwen3.5 0.8B.
Какие ключевые моменты необходимо проверить в первую очередь?
По данным исследователей, Astra изменила 131 072 веса — 0,016% параметров Qwen3.5 0.8B. Для диагностики использовали Python и многократные проверки. Один описанный запуск занял около 20 часов и включал 158 ходов диалога, поэтому «без обучения» не означает «без затрат времени и вычислений».
Что мне делать дальше на практике?
Опубликованный чекпойнт и повторный запуск MATH 500 дают основания проверить результат, но не доказывают, что метод надёжно работает на разных моделях и задачах.
Источники
snowrock.comMIT researchers used GPT-6 Astra to fix Qwen’s thinking loops
aicoder.comAI Coding Live News — Real-Time X/Twitter Updates & Breakthroughs
rikiyat.github.ioSparks of Weight-Space Programming: LLMs can natively read & write neural network weights
huggingface.coakhaliq/Qwen3.5-0.8B-weight-space-programming · Hugging Face
daily.dev