AnswersPublished25 sources
За лаштунками навчання MiMo-V2.6: кроки, витрати й значення показників
Панель показувала кроки навчання, генерацію спроб, токени, винагороди, оцінки DeepSWE, накопичені витрати й окремі технічні збої — але не весь процес створення моделей.[1][18][23] За даними Xiaomi, Pro і Flash пройшли по 30 кроків менш ніж за шість днів. Етап навчання з підкріпленням коштував приблизно $2,62 млн і $...
ОпублікувавВідредаговано за допомогою GPT-6 SolЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- Панель показувала кроки навчання, генерацію спроб, токени, винагороди, оцінки DeepSWE, накопичені витрати й окремі технічні збої — але не весь процес створення моделей.[1][18][23]
- За даними Xiaomi, Pro і Flash пройшли по 30 кроків менш ніж за шість днів. Етап навчання з підкріпленням коштував приблизно $2,62 млн і $850 тис.
- У кожному кроці було 1568 запитів і по 16 спроб на кожен: за 30 кроків це близько 750 тис.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Xiaomi’s public MiMo-V2.6 Pro and Flash reinforcement-learning post-training dashboard show about the live runs’ steps, tokens, re. Article summary: Xiaomi’s dashboard exposed unusually detailed *post-training* reinforcement-learning telemetry for MiMo-V2.6 Pro and Flash—not their pretraining runs or a complete audit of every job on its infrastructure. The runs have . Topic tags: general, education, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
Публічна панель Xiaomi дала змогу спостерігати за післятренувальним навчанням з підкріпленням двох моделей — MiMo-V2.6-Pro та MiMo-V2.6-Flash. Це етап після базового навчання моделі, а не трансляція всього процесу її створення. Панель показувала дані, які оприлюднювала сама Xiaomi; незалежним аудитом її інфраструктури вона не була.1
18
Що можна було побачити
Окремі сторінки Pro і Flash відображали завершені кроки навчання, спроби виконання завдань, які ще тривали, кількість оброблених токенів, графіки винагород, частку успішних завдань, тривалість кроків, накопичені витрати та проміжні результати перевірки навичок програмування. Лічильники навчання й генерації спроб могли не збігатися: система працювала асинхронно, тож наступні спроби могли виконуватися паралельно з оновленням моделі.1
18
22
У повідомленнях про панель також згадувалися перезапуски, помилки нестачі пам’яті графічних процесорів і проблеми з наборами даних. Це корисний погляд на перебіг роботи, але не доказ того, що були показані всі інциденти.18
23
Один із ранніх знімків зафіксував обидві моделі після 10 кроків навчання, коли тривав 16-й крок генерації спроб. На той момент повідомлялося про приблизно 2,2 млрд токенів за крок для Pro і 2,6 млрд для Flash, а накопичені витрати становили близько $741 тис. і $322 тис. Це проміжний стан лічильників, а не остаточна вартість чи сталий темп витрат.25
Як було влаштовано навчання
Для кожного оновлення брали 1568 запитів і 16 спроб на кожен — разом 25 088 потенційних траєкторій виконання завдань. Асинхронна схема дозволяла поєднувати генерацію відповідей і роботу в тестових середовищах з оцінюванням та оновленням моделі. У спільному циклі використовувалися різні агентні завдання: програмування, загальні, візуальні та кібербезпекові задачі, причому в кількох програмних обв’язках для їх запуску й перевірки.4
10
19
Оцінювання не зводилося до позначки «пройшов тест / не пройшов». Описаний підхід поєднував результати виконуваних тестів із критеріями якості для конкретних завдань і порівнянням спроб між собою. Тому два успішні розв’язки могли отримати різні оцінки. Перевірка теж потребувала обчислювальних ресурсів: за викладом технічного звіту, на неї припало близько 12,7% вартості навчання Pro з підкріпленням.44
47
Рання оцінка масштабу — «приблизно 2 млрд токенів на крок» — не була незмінною нормою: пізніші описи наводили вищі показники.4
19
20
Як читати винагороди, DeepSWE і підсумкову суму
Винагорода під час навчання — не незалежний тест здібностей моделі. Показник dynsam/avg@n на панелі означає середню частку успішних спроб для вибраних запитів. Версія dynsam/avg@n_no_infra не враховує спроб, зірваних інфраструктурними проблемами. Порівняння цих чисел допомагає не сплутати збій середовища з помилкою моделі, але жодне з них не описує якість її роботи на всіх можливих завданнях.18
На ранньому знімку результати DeepSWE v1.1 становили 62,24 для Pro і 60,77 для Flash. Це були оцінки проміжних версій. Згодом Xiaomi повідомила про приблизно 72,6 для Pro і 65,7 для Flash наприкінці навчання. Їх слід читати в контексті методики оцінювання Xiaomi, а не як незалежно відтворені результати публічного рейтингу.25
17
45
За даними компанії, обидва цикли завершилися після 30 кроків кожен менш ніж за шість днів. Заявлені витрати — близько $2,62 млн для Pro і $850 тис. для Flash, разом приблизно $3,47 млн. Згадані Xiaomi приблизно 750 тис. траєкторій варто розуміти як показник для кожної моделі: 25 088 потенційних траєкторій за крок × 30 кроків = 752 640 для одного циклу. У ці суми не входять базове навчання та всі інші роботи над моделями.2
4
44
45
Де закінчується прозорість
Відмінність цієї панелі від звичайного оголошення готової моделі — часовий ряд показників, доступний ще під час роботи. Пізніше Xiaomi оголосила про публікацію ваг Pro і Flash, дистильованої моделі на 9 млрд параметрів, технічного звіту, понад 7000 середовищ із завданнями для навчання з підкріпленням та інструментів для організації таких циклів.1
15
Водночас наявні джерела не підтверджують незалежно, що потік даних був безперервним і нефільтрованим або що панель охоплювала всі паралельні роботи на інфраструктурі. Випуск дистильованої моделі також не доводить, що приховане навантаження з її створення працювало поруч із показаними циклами Pro і Flash чи входило до їхніх заявлених витрат.18
15
2
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "За лаштунками навчання MiMo-V2.6: кроки, витрати й значення показників"?
Панель показувала кроки навчання, генерацію спроб, токени, винагороди, оцінки DeepSWE, накопичені витрати й окремі технічні збої — але не весь процес створення моделей.[1][18][23]
What are the key points to validate first?
Панель показувала кроки навчання, генерацію спроб, токени, винагороди, оцінки DeepSWE, накопичені витрати й окремі технічні збої — але не весь процес створення моделей.[1][18][23] За даними Xiaomi, Pro і Flash пройшли по 30 кроків менш ніж за шість днів. Етап навчання з підкріпленням коштував приблизно $2,62 млн і $850 тис.
What should I do next in practice?
У кожному кроці було 1568 запитів і по 16 спроб на кожен: за 30 кроків це близько 750 тис.