ОтветыОпубликовано24 источники
MemT 1.0: модели, которые хранят историю внутри себя
В семейство MemT 1.0 вошли Flash с 288 млрд параметров, из которых активны 17 млрд, и Nano с 36 млрд параметров, из которых активны 3 млрд. Вместо повторной обработки всей переписки модели обновляют внутреннее состояние памяти фиксированного размера и используют его для последующих ответов.
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- В семейство MemT 1.0 вошли Flash с 288 млрд параметров, из которых активны 17 млрд, и Nano с 36 млрд параметров, из которых активны 3 млрд.
- Вместо повторной обработки всей переписки модели обновляют внутреннее состояние памяти фиксированного размера и используют его для последующих ответов.
- По данным компании, Nano ускоряет обработку длинной истории до 3,99 раза, однако результаты зависят от условий тестирования.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Chinese AI company MemTensor announce and open-source on October 22, 2026, with its memory-native MemT 1.0 Flash and Nano models, i. Article summary: MemTensor released the memory-native MemT 1.0 family—Flash and Nano—designed to retain information internally rather than repeatedly process an ever-growing conversation history.[10][11] Two details in the question need . Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
MemTensor представила семейство моделей MemT 1.0 — Flash и Nano — с так называемой «встроенной памятью». Идея в том, чтобы сохранять полезную информацию о прошлых взаимодействиях во внутреннем состоянии модели, а не при каждом запросе заново обрабатывать всё более длинную переписку. В публикациях от 22 октября говорится, что запуск состоялся вечером 21 октября.8
Главные цифры эффективности основаны на тестах компании: их стоит воспринимать как результаты конкретных сравнений, а не как гарантию такого же ускорения в любой системе.8
13
Две модели — два масштаба
Flash и Nano различаются размером. Общее число параметров и количество активных параметров — не то же самое, что число обучаемых параметров памяти или размер динамического состояния памяти.4
5
| Модель | Всего параметров | Активны | Обучаемые параметры памяти | Динамическое состояние памяти |
|---|---|---|---|---|
| MemT-1.0-Flash | 288 млрд | 17 млрд | 3,61 млрд | 336 млн |
| MemT-1.0-Nano | 36 млрд | 3 млрд | 451 млн | 10 млн |
Веса моделей опубликованы на Hugging Face. В официальном репозитории MemTensor на GitHub доступны материалы по реализации и ссылки на технический отчёт MemT-1.0: Towards Memory-Native Evolution.4
5
20
21
Как работает внутренняя память
В подходе с полным контекстом модель получает историю переписки как часть входных данных. По мере её роста приходится снова обрабатывать всё больше текста. MemT устроена иначе: обучаемый модуль памяти обновляет внутреннее состояние фиксированного размера после взаимодействий, а затем использует его, чтобы вспомнить нужную информацию. Так разработчики рассчитывают избежать постоянной передачи модели всей длинной стенограммы.7
25
По данным MemTensor, обучение шло в два этапа на 34 млрд токенов: сначала продолжалось предварительное обучение, затем — дообучение. Заявленная цель — научить модель записывать информацию в память и отвечать на вопросы, опираясь на сохранённое.8
31
Что показали тесты компании
В тестах на длинную историю Nano обрабатывала запросы примерно в 1,86 раза быстрее базовой модели с полным контекстом при истории в 128 тыс. токенов и в 3,99 раза быстрее при 256 тыс. токенов.8
9 Это результаты конкретных испытаний: в реальных задачах показатели могут отличаться в зависимости от нагрузки и условий развёртывания.
13
Компания также сравнила время до первого токена и объём хранения на сессию. При истории в 256 тыс. токенов заявленное время до первого токена для MemT составляло примерно 104–112 мс, тогда как для варианта с полным контекстом — около 445 мс. Состояние памяти занимало около 40 МиБ на сессию против примерно 5,06 ГиБ у KV-кеша полного контекста — примерно в 130 раз меньше в этом сравнении.13
22
25
В 11 тестах памяти Flash набрала в среднем 50,6 балла, а Nano — 47,0. В сравнении с параметрическими методами памяти, включёнными в оценку, модели заняли первое и второе места. В этих тестах исходную историю не предоставляли модели во время запроса.9
14 В отчёте MemT также названа конкурентоспособной с подходами, использующими извлечение данных, однако это не доказывает, что модель не уступает любой поисковой системе или на любой задаче.
9
В тестах с большим количеством отвлекающей информации общие возможности Flash, по сообщениям об оценке, в целом оставались сопоставимыми с исходной версией до добавления памяти; на некоторых тестах показатели улучшились.7
25
Перед использованием проверьте лицензии
У весов моделей и программного обеспечения разные условия распространения. На карточках моделей на Hugging Face для весов Flash указана лицензия MIT, а для Nano — Apache 2.0.20
21 Для материалов, связанных с программным обеспечением для инференса, указана PolyForm Noncommercial 1.0.0. Перед коммерческим использованием проверьте лицензию нужного репозитория и условия для сторонних компонентов.
18
20
21
30
Главное предложение MemT 1.0 — переносить полезную историю взаимодействий во внутреннее состояние ограниченного размера, чтобы при длинных диалогах меньше раз за разом обрабатывать одни и те же данные и занимать меньше места на сессию. Опубликованные тесты выглядят многообещающе, но это результаты компании, а не обещание одинаковой производительности во всех сценариях.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «MemT 1.0: модели, которые хранят историю внутри себя»?
В семейство MemT 1.0 вошли Flash с 288 млрд параметров, из которых активны 17 млрд, и Nano с 36 млрд параметров, из которых активны 3 млрд.
Какие ключевые моменты необходимо проверить в первую очередь?
В семейство MemT 1.0 вошли Flash с 288 млрд параметров, из которых активны 17 млрд, и Nano с 36 млрд параметров, из которых активны 3 млрд. Вместо повторной обработки всей переписки модели обновляют внутреннее состояние памяти фиксированного размера и используют его для последующих ответов.
Что мне делать дальше на практике?
По данным компании, Nano ускоряет обработку длинной истории до 3,99 раза, однако результаты зависят от условий тестирования.