ОтветыОпубликовано17 источники
Huawei OceanStor M900: новый уровень контекстной памяти для AI-инференса
На HUAWEI CONNECT 2026 компания Huawei представила OceanStor M900 — общий уровень KV кэша для hyperscale SuperPoD, рассчитанный на объём до 64 ПБ на кластер. Система использует Lingqu UnifiedBus для глобального многоуровневого KV кэша и ориентирована на запросы с очень длинным контекстом и многошаговый агентный AI и...
ОпубликовалОтредактировано с помощью GPT-5.6 TerraИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- На HUAWEI CONNECT 2026 компания Huawei представила OceanStor M900 — общий уровень KV кэша для hyperscale SuperPoD, рассчитанный на объём до 64 ПБ на кластер.
- Система использует Lingqu UnifiedBus для глобального многоуровневого KV кэша и ориентирована на запросы с очень длинным контекстом и многошаговый агентный AI инференс.
- Huawei заявляет задержку около 60 мкс, суммарную пропускную способность 40 ТБ/с и двукратный рост token throughput в сценарии AI кодинга, однако детальная методика сравнений не опубликована.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei представила OceanStor M900 Context Memory Storage — систему хранения для AI-инференса в гипермасштабируемых дата-центрах. Она не должна заменять HBM или DRAM на AI-ускорителях: её роль — добавить для SuperPoD общий масштабируемый слой контекстной памяти, когда KV-кэш становится ограничивающим фактором при очень длинных промптах и многошаговых задачах AI-агентов. 2
23
Зачем нужен отдельный слой для KV-кэша
Во время инференса большой языковой модели KV-кэш хранит промежуточное состояние уже обработанных токенов. Его повторное использование особенно ценно, если один и тот же либо близкий контекст возвращается в следующих сообщениях диалога или на последующих шагах работы агента.
Huawei позиционирует M900 как ответ на ограничения по ёмкости встроенной памяти ускорителей и DRAM в сценариях сверхдлинного контекста и многораундового инференса. Сеть UnifiedBus, которую компания также называет Lingqu, формирует глобальный многоуровневый KV-кэш с однопереходными соединениями и расширяет слой кэша от памяти ускорителя и DRAM до SSD. 2
26
Проще говоря, M900 должен позволить хранить, совместно использовать и повторно применять гораздо больший объём контекста, не удерживая его целиком в самых дорогих уровнях памяти.
До 64 ПБ KV-кэша на кластер — но это не прибавка HBM
По данным Huawei, один кластер M900 может предоставлять до 64 ПБ KV-кэша. Компания также заявляет, что доступный объём KV-кэша на один NPU может вырасти с уровня гигабайтов до уровня терабайтов, что должно повысить долю попаданий в кэш при запросах с длинным контекстом. 2
26
Речь идёт об общей памяти на уровне SuperPoD, а не об увеличении локального объёма HBM конкретного чипа. Поэтому практический эффект будет зависеть от того, как программный стек распределяет, извлекает и повторно использует KV-кэш, а также от реального профиля запросов в конкретной инфраструктуре.
Архитектура: KV-семантика и прямой путь от NPU к SSD
По заявлению Huawei, M900 объединяет CPU, сетевой контроллер и NAND-контроллер в одной архитектуре. Компания утверждает, что это обеспечивает нативную KV-семантику и однопереходный доступ от NPU к SSD без преобразования протоколов и промежуточной пересылки через CPU. 20
26
Опубликованные Huawei целевые показатели таковы:
- около 60 микросекунд задержки доступа;
- до 40 ТБ/с суммарной пропускной способности на кластер;
- пропускная способность в 1,5 раза выше, чем у сопоставимых решений на рынке, по оценке самой Huawei.
26
Эти цифры следует воспринимать как заявления производителя. В анонсе не раскрыты модель, уровень параллелизма, коэффициенты попаданий в кэш, конфигурация кластера и методика сравнения. Для содержательной оценки понадобятся независимые тесты на репрезентативных производственных нагрузках.
Что Huawei говорит о throughput и ресурсе SSD
Для типичного сценария AI-инференса при программировании Huawei заявляет двукратный рост пропускной способности по токенам и сокращение time to first token (TTFT) вдвое. 14 Без подробностей о базовой системе и самой нагрузке эти результаты нельзя обобщать на все модели и программные стеки инференса.
Компания также описывает механизм KV-aware adaptive storage: логика размещения данных учитывает ценность и срок жизни кэша, чтобы выбирать подходящий носитель. Huawei заявляет до 24 DWPD и примерно 16-кратное увеличение ресурса SSD по операциям чтения и записи за счёт гибридных носителей и оптимизированного алгоритма удержания данных. 16
18 Эти показатели долговечности также требуют проверки при реальной интенсивности записи и фактических политиках управления кэшем.
Место M900 в архитектуре SuperPoD
Анонс M900 — это скорее заявление об архитектурном подходе, чем отдельный запуск системы хранения. Huawei описывает UnifiedBus как интерконнект для связи кластеров и SuperPoD в агентном AI, а M900 выступает в этой схеме уровнем хранения контекста. 23
В этой архитектуре:
- ускорители Ascend обеспечивают вычисления;
- UnifiedBus/Lingqu отвечает за интерконнект и совместное использование ресурсов;
- OceanStor M900 добавляет постоянный общий KV-кэш петабайтного масштаба.
Таким образом, M900 сам по себе не добавляет модели вычислительной мощности и не заменяет ни ускорители, ни высокоскоростные интерконнекты. Его задача — ослабить узкое место, связанное с давлением на память, когда длинные контекстные окна и повторяющиеся шаги AI-агентов делают KV-кэш столь же важным ресурсом, как и вычисления. 2
23
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Huawei OceanStor M900: новый уровень контекстной памяти для AI-инференса»?
На HUAWEI CONNECT 2026 компания Huawei представила OceanStor M900 — общий уровень KV кэша для hyperscale SuperPoD, рассчитанный на объём до 64 ПБ на кластер.
Какие ключевые моменты необходимо проверить в первую очередь?
На HUAWEI CONNECT 2026 компания Huawei представила OceanStor M900 — общий уровень KV кэша для hyperscale SuperPoD, рассчитанный на объём до 64 ПБ на кластер. Система использует Lingqu UnifiedBus для глобального многоуровневого KV кэша и ориентирована на запросы с очень длинным контекстом и многошаговый агентный AI инференс.
Что мне делать дальше на практике?
Huawei заявляет задержку около 60 мкс, суммарную пропускную способность 40 ТБ/с и двукратный рост token throughput в сценарии AI кодинга, однако детальная методика сравнений не опубликована.
Источники
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei