AnswersPublished24 sources
MemT 1.0: моделі, які мають запам’ятовувати розмову
У сімействі MemT 1.0 — дві моделі: Flash із 288 млрд загальних і 17 млрд активних параметрів та Nano з 36 млрд загальних і 3 млрд активних. Замість повторно обробляти дедалі довшу стенограму, моделі зберігають інформацію у внутрішньому стані пам’яті фіксованого розміру.
ОпублікувавВідредаговано за допомогою GPT-6 LunaЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- У сімействі MemT 1.0 — дві моделі: Flash із 288 млрд загальних і 17 млрд активних параметрів та Nano з 36 млрд загальних і 3 млрд активних.
- Замість повторно обробляти дедалі довшу стенограму, моделі зберігають інформацію у внутрішньому стані пам’яті фіксованого розміру.
- За тестами MemTensor, Nano обробляла історію на 128 тис. токенів приблизно у 1,86 раза швидше, а на 256 тис.
- Ваги Flash поширюються за ліцензією MIT, а Nano — Apache 2.0. Для супровідного програмного забезпечення діють окремі умови.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Chinese AI company MemTensor announce and open-source on October 22, 2026, with its memory-native MemT 1.0 Flash and Nano models, i. Article summary: MemTensor released the memory-native MemT 1.0 family—Flash and Nano—designed to retain information internally rather than repeatedly process an ever-growing conversation history.[10][11] Two details in the question need . Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
MemTensor представила сімейство моделей MemT 1.0 — Flash і Nano — з пам’яттю, вбудованою в саму модель. Замість того щоб щоразу передавати моделі всю попередню розмову, система має зберігати потрібну інформацію у внутрішньому стані фіксованого розміру й звертатися до нього пізніше. Про запуск увечері 21 жовтня повідомили публікації, що вийшли наступного дня.8
Заявлені переваги стосуються передусім довгої історії розмови. Водночас показники швидкості й обсягу пам’яті отримані у тестах, про які повідомляє компанія, тож їх не варто сприймати як гарантію таких самих результатів у будь-якому застосуванні.8
13
Дві моделі — різні розміри
MemT-1.0-Flash і MemT-1.0-Nano відрізняються не лише загальною кількістю параметрів. Окремо вказані активні параметри, параметри пам’яті, що навчаються, та розмір динамічного стану пам’яті.4
5
| Модель | Загальна кількість параметрів | Активні параметри | Параметри пам’яті, що навчаються | Динамічний стан пам’яті |
|---|---|---|---|---|
| MemT-1.0-Flash | 288 млрд | 17 млрд | 3,61 млрд | 336 млн |
| MemT-1.0-Nano | 36 млрд | 3 млрд | 451 млн | 10 млн |
Ваги моделей доступні на Hugging Face. В офіційному репозиторії MemTensor на GitHub є матеріали для роботи з моделями та посилання на технічний звіт MemT-1.0: Towards Memory-Native Evolution.4
5
20
21
Як працює вбудована пам’ять
У звичайному підході модель отримує попередні повідомлення як частину контексту. Що довша розмова, то більше тексту потрібно передавати й обробляти. MemT натомість додає модуль пам’яті, який після взаємодій оновлює внутрішній стан фіксованого розміру. Пізніше модель може використати збережену там інформацію, не перечитуючи щоразу всю стенограму.7
25
За даними MemTensor, моделі навчали на 34 млрд токенів у два етапи: спершу продовжували попереднє навчання, а потім проводили додаткове навчання. Заявлена мета — навчити модель записувати інформацію у пам’ять і відповідати на запитання, спираючись на збережене.8
31
Що показали тести компанії
У тестах на довгу історію Nano обробляла запити приблизно у 1,86 раза швидше за повноконтекстний базовий варіант за історії на 128 тис. токенів і у 3,99 раза швидше за 256 тис. токенів.8
9 Це результати конкретних оцінювань; швидкість у реальному використанні залежатиме від завдання та умов розгортання.
13
Компанія також навела показники затримки до першого токена й обсягу збережених даних на сесію. За історії на 256 тис. токенів затримка до першого токена для MemT становила близько 104–112 мілісекунд, тоді як для повноконтекстного порівняння — приблизно 445 мілісекунд. Стан пам’яті на одну сесію займав близько 40 МіБ проти приблизно 5,06 ГіБ для KV-кешу повного контексту — орієнтовно у 130 разів менше в цьому порівнянні.13
22
25
На 11 тестах пам’яті Flash набрала в середньому 50,6 бала, а Nano — 47,0. У цьому оцінюванні моделі посіли перше й друге місця серед методів параметричної пам’яті; під час запиту їм не надавали початкову історію розмови.9
14 У звіті MemT також названо конкурентною з підходами, що використовують пошук і доповнення відповіді контекстом. Це не означає, що моделі зрівнялися з кожною системою пошуку на будь-якому завданні.
9
В окремих тестах із великою кількістю відволікальних даних загальні можливості Flash, за повідомленнями про оцінювання, загалом залишилися близькими до базового варіанта без пам’яті; на деяких тестах показники покращилися.7
25
На що зважати перед використанням
Ваги моделей і програмне забезпечення мають різні ліцензійні умови. На сторінках моделей на Hugging Face для ваг Flash зазначена ліцензія MIT, а для Nano — Apache 2.0.20
21 Для супровідного програмного забезпечення вказана PolyForm Noncommercial 1.0.0. Перед комерційним використанням варто перевірити умови відповідного репозиторію та ліцензії сторонніх компонентів.
18
20
21
30
Головна ідея MemT 1.0 — зберігати корисну історію розмови у внутрішньому стані обмеженого розміру. За тестами MemTensor, це може скоротити повторну обробку довгих діалогів і обсяг даних на сесію. Результати виглядають перспективно, але поки що це саме заявлені компанією вимірювання, а не гарантія однакових переваг у всіх системах.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "MemT 1.0: моделі, які мають запам’ятовувати розмову"?
У сімействі MemT 1.0 — дві моделі: Flash із 288 млрд загальних і 17 млрд активних параметрів та Nano з 36 млрд загальних і 3 млрд активних.
What are the key points to validate first?
У сімействі MemT 1.0 — дві моделі: Flash із 288 млрд загальних і 17 млрд активних параметрів та Nano з 36 млрд загальних і 3 млрд активних. Замість повторно обробляти дедалі довшу стенограму, моделі зберігають інформацію у внутрішньому стані пам’яті фіксованого розміру.
What should I do next in practice?
За тестами MemTensor, Nano обробляла історію на 128 тис. токенів приблизно у 1,86 раза швидше, а на 256 тис.