ОтветыОпубликовано22 источники
Зачем SenseTime повторно запускает один и тот же блок слоёв
Выпущенная 30 октября 2026 года SenseNova Loop 9B Preview повторно запускает один и тот же блок из 24 слоёв: всего получается 56 вычислительных проходов при 32 разных слоях. У модели около 9 млрд параметров, а документация указывает 14,6 млрд «параметров при инференсе» — это другой способ учёта, а не второй набор хр...
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Выпущенная 30 октября 2026 года SenseNova Loop 9B Preview повторно запускает один и тот же блок из 24 слоёв: всего получается 56 вычислительных проходов при 32 разных слоях.
- У модели около 9 млрд параметров, а документация указывает 14,6 млрд «параметров при инференсе» — это другой способ учёта, а не второй набор хранимых весов.
- Заявления о сопоставимости с моделями класса 27B основаны на отдельных оценках SenseTime; технический отчёт пока отмечен как ожидающий публикации.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What is SenseTime’s SenseNova-Loop-9B-Preview, open-sourced on October 30, 2026, and how do its Apache 2.0 weights on Hugging Face and code. Article summary: SenseNova-Loop-9B-Preview is SenseTime’s open-weight multimodal model for long-context and agent workflows, released on October 30, 2026, with Apache 2.0 weights on Hugging Face and a public GitHub repository.[6][12][7][. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
SenseTime представила SenseNova-Loop-9B-Preview 30 октября 2026 года. Это мультимодальная модель с открытыми весами, рассчитанная на работу с длинным контекстом и сценарии с ИИ-агентами: она принимает текст и изображения, а на выходе генерирует текст. Компания называет среди предполагаемых задач анализ документов, программирование и взаимодействие с внешними инструментами.7
Главная особенность модели — не просто размер, а способ вычислений. В декодере 32 разных слоя, но средний блок из 24 слоёв выполняется дважды с теми же весами. Поэтому за один проход модель совершает 56 вычислительных шагов по слоям.7
45
Откуда берутся 56 проходов
Первые четыре слоя срабатывают один раз, затем слои с индексами 4–27 проходят дважды, а последние четыре слоя — снова один раз. Подсчёт выглядит так: 4 + 24 × 2 + 4 = 56.45
Здесь важно различать число уникальных слоёв и число их выполнений. Повторное использование блока увеличивает вычислительную глубину без хранения отдельной копии его весов для второго прохода. Но это не означает, что модель обязательно быстрее или дешевле в работе: скорость и расход ресурсов зависят от реализации и условий запуска.
В документации указано около 9 млрд параметров всего и 14,6 млрд «параметров при инференсе».6 Это разные показатели учёта. Цифру 14,6 млрд не следует понимать как число независимо хранящихся весов или как доказательство того, что модель по качеству равна обычной модели такого размера.
Что добавляют mHC и механизм внимания
В повторяемом блоке используется mHC — двухпоточная система гиперсвязей с ограничениями на многообразии. Два остаточных потока переносят информацию через вычисления декодера, а обучаемые отображения определяют, как слои считывают и смешивают данные из потоков и как включают свои результаты в дальнейшие вычисления. Согласно документации, смешивание ограничивается нормализацией Sinkhorn; конфигурация предусматривает два потока и 20 итераций нормализации.8
20
Документация также описывает чередование трёх слоёв с линейным вниманием и одного слоя с полным вниманием.32 Это характеристика архитектуры, но сама по себе она не доказывает, что модель будет быстрее или лучше на любой задаче.
Контекст, данные и предполагаемые задачи
Обучающие рецепты рассчитаны на последовательности длиной до 262 144 токенов и включают мультимодальные данные и примеры выполнения задач. По описанию TechNode, в обучающую смесь входят текст, изображения, код и примеры использования инструментов.6
30
Большая максимальная длина контекста не означает, что модель гарантированно сможет надёжно извлечь нужную информацию или рассуждать по каждому токену в очень длинном запросе. Это нужно проверять на конкретных задачах и в условиях предполагаемого применения.
Что говорят сравнения с моделями класса 27B
SenseTime заявляет, что модель показывает результаты уровня примерно 27-миллиардных моделей, и выделяет сравнения с Qwen3.5-27B на WorkBuddy Bench, RaccoonPPT Bench и AutomationBench.16
36 Это заявления компании о результатах на выбранных тестах, а не подтверждение равенства моделей по всем задачам. Доступных подробностей недостаточно, чтобы независимо оценить методику сравнения и применимость результатов за пределами этих испытаний.
В карточке модели перечислены и другие бенчмарки: BIRD-Dev, WorkBuddy Bench, AIDABench, TeamBench, Terminal Bench 2.1, T³-Banking, AutomationBench и RaccoonPPTBench.17 Само присутствие теста в списке не говорит, выиграла ли на нём модель и как именно был получен результат. Кроме того, технический отчёт пока обозначен как «TBD» — то есть ещё не опубликован.
1
Ускорение инференса: что уже описано
Документация указывает поддержку MTP — предсказания нескольких токенов для ускорения инференса.6
20 Это подтверждает наличие поддерживаемого метода, но не показывает величину ускорения: опубликованные материалы не устанавливают, как меняются задержка и пропускная способность на разных устройствах и нагрузках.
Dspark и Dflash2 обозначены как находящиеся в разработке; для них опубликованы инструкции по обучению.5
20 Наличие таких инструкций не означает, что доступны готовые черновые чекпойнты или что ускорение уже независимо измерено.
Что это значит на практике
SenseNova-Loop-9B-Preview проверяет идею: увеличить вычислительную глубину модели, повторно используя один и тот же средний блок, а не добавляя к нему второй набор весов. Однако число выполнений слоёв, число хранимых параметров и реальная скорость работы — разные вещи. А громкие сравнения с более крупными моделями пока стоит воспринимать как заявления по отдельным бенчмаркам, а не как гарантию универсального превосходства.
Для решения о внедрении важнее проверить качество модели на нужных задачах и измерить её расход памяти, задержку и скорость именно в предполагаемой среде.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Зачем SenseTime повторно запускает один и тот же блок слоёв»?
Выпущенная 30 октября 2026 года SenseNova Loop 9B Preview повторно запускает один и тот же блок из 24 слоёв: всего получается 56 вычислительных проходов при 32 разных слоях.
Какие ключевые моменты необходимо проверить в первую очередь?
Выпущенная 30 октября 2026 года SenseNova Loop 9B Preview повторно запускает один и тот же блок из 24 слоёв: всего получается 56 вычислительных проходов при 32 разных слоях. У модели около 9 млрд параметров, а документация указывает 14,6 млрд «параметров при инференсе» — это другой способ учёта, а не второй набор хранимых весов.
Что мне делать дальше на практике?
Заявления о сопоставимости с моделями класса 27B основаны на отдельных оценках SenseTime; технический отчёт пока отмечен как ожидающий публикации.