15 октября Nvidia объявила о расширении семейства Nemotron 3.5 тремя моделями для ИИ-агентов: крупной мультимодальной Super VL и двумя моделями Bolt, ориентированными на работу на локальном оборудовании. Замысел — охватить разные сценарии: от сложных агентных процессов до запуска моделей на компьютерах и других системах с ограниченной памятью.
7
10
Что входит в линейку
- Nemotron 3.5 Super VL — мультимодальная модель типа mixture of experts (MoE): всего 120 млрд параметров, из которых для каждого токена активируются 12 млрд. Она предназначена для агентных задач, где нужно работать с текстом и визуальной информацией. Nvidia позиционирует её для специализированных постоянно работающих агентов.
3
7
- Nemotron 3.5 Bolt 74B-A9B 24GB — модель с 74 млрд параметров и 9 млрд активных параметров, построенная на гибридной архитектуре Mamba–Transformer. Nvidia рассчитала её на повседневные локальные задачи ИИ-агентов на системах RTX и DGX Spark; модель должна помещаться в 24 ГБ памяти.
13
16
- Для Bolt 74B-A9B Nvidia также указывает агрессивное квантование до 2 бит и скорость декодирования не менее 80 токенов в секунду. Эти показатели относятся к этой модели, а не автоматически ко всей линейке.
13
- Nemotron 3.5 Bolt E4B 4GB — младшая модель, которую Nvidia планировала выпустить 23 октября. В опубликованных материалах её представляют как вариант для устройств с небольшим объёмом памяти, однако доступные источники не дают достаточных подтверждений её точному числу параметров, фактическому потреблению памяти и настройкам квантования.
7
11
Super VL и Bolt 74B-A9B стали доступны 15 октября; Bolt E4B на дату публикации ещё ожидается.
7
Насколько модели «открытые» и что обещает Nvidia
Nvidia представляет новинки как открытые и настраиваемые модели. Однако доступные сведения не позволяют подробно подтвердить, какие именно веса и обучающие данные опубликованы для каждой из трёх моделей. Поэтому слово «открытые» здесь корректнее понимать как характеристику, данную Nvidia, а не как подтверждение полной открытости всех компонентов.
Компания заявляет, что Super VL может обеспечивать до пяти раз более высокую пропускную способность на одной GPU в агентных задачах по сравнению с другими открытыми моделями её размерного класса. Это результат, заявленный Nvidia, а не гарантия такого ускорения в любой системе или рабочем процессе.
3
Документация Nvidia описывает этапы дообучения Super: обучение с учителем, обучение с подкреплением по проверяемым результатам, использование специализированных моделей-учителей и дистилляцию.
6 При этом указанное Nvidia для более ранней Nemotron 3 Super обучение на 25 трлн токенов нельзя без дополнительных данных переносить на все три новые модели.
4
В отдельной оценке Artificial Analysis Super VL получила 26 баллов по Intelligence Index против 13 у Nemotron 3 Super. Организация также сообщила, что модель использовала примерно на 60% меньше выходных токенов на задачу. Это оценка в рамках рейтинга открытых моделей, а не универсальное сравнение со всеми доступными ИИ-системами.
16
Где уже применяют Super VL
Компания Navan сообщила, что получила ранний доступ к Super VL и менее чем за три недели доработала модель и запустила её в производственной среде. По словам компании, модель уже используется в нескольких ИИ-агентах для деловых поездок. Navan также подчёркивает, что самостоятельное размещение модели даёт ей больше контроля над качеством рассуждений, скоростью и эффективностью.
8
По итогам внутренней оценки Navan, дообученная Super VL показала лучший общий результат и наименьшую задержку среди сравнивавшихся вариантов. Компания также сообщила о заметной эффективности, но опубликованные сведения не приводят точных цифр экономии или сокращения времени ответа.
1
В целом анонс показывает, как Nvidia разводит модели по масштабу: Super VL предназначена для более сложной мультимодальной работы, а Bolt — для локального запуска агентных задач на системах Nvidia. При этом многие детали по младшей E4B и сопоставлению моделей в независимых условиях пока нельзя считать подтверждёнными.