AnswersPublished17 sources
Huawei OceanStor M900: новий рівень контекстної пам’яті для AI-інференсу
На HUAWEI CONNECT 2026 компанія представила OceanStor M900 — спільний рівень KV кешу для AI інференсу в гіпермасштабних датацентрах і SuperPoD кластерах із заявленою ємністю до 64 ПБ на кластер. Система використовує Lingqu UnifiedBus для глобального багаторівневого KV кешу та орієнтована на наддовгі контексти й бага...
ОпублікувавВідредаговано за допомогою GPT-5.6 TerraЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- На HUAWEI CONNECT 2026 компанія представила OceanStor M900 — спільний рівень KV кешу для AI інференсу в гіпермасштабних датацентрах і SuperPoD кластерах із заявленою ємністю до 64 ПБ на кластер.
- Система використовує Lingqu UnifiedBus для глобального багаторівневого KV кешу та орієнтована на наддовгі контексти й багатокрокові агентні сценарії інференсу.
- Huawei заявляє близько 60 мкс затримки, 40 ТБ/с сукупної пропускної здатності та подвоєння токенного throughput у сценарії AI кодування, але повної методики порівняння не оприлюднила.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei представила OceanStor M900 Context Memory Storage — систему зберігання для AI-інференсу в гіпермасштабних датацентрах. Її призначення не в тому, щоб замінити HBM чи DRAM в AI-прискорювачах, а в тому, щоб додати для SuperPoD-кластерів спільний масштабований рівень контекстної пам’яті. Це актуально там, де KV-кеш стає вузьким місцем через дуже довгі запити та багатокрокову роботу AI-агентів. 2
23
Чому KV-кеш уже не вміщується лише в HBM і DRAM
Під час інференсу великої мовної моделі KV-кеш зберігає проміжний стан уже оброблених токенів. Його повторне використання корисне, коли той самий або близький контекст знову з’являється в наступних репліках діалогу чи кроках роботи агента.
Huawei позиціонує M900 як відповідь на обмеження ємності вбудованої пам’яті та DRAM у сценаріях із наддовгим контекстом і багатораундовим інференсом. За допомогою UnifiedBus, який компанія також називає Lingqu, система формує глобальний багаторівневий KV-кеш із однохоповими з’єднаннями та розширює кеш-рівень від пам’яті прискорювачів і DRAM до SSD. 2
26
Простіше кажучи, M900 покликаний зберігати, спільно використовувати й повторно застосовувати значно більші обсяги контексту — без потреби тримати весь цей обсяг у найдорожчих рівнях пам’яті.
Заявлена ємність: до 64 ПБ KV-кешу
Huawei повідомляє, що один кластер M900 може надати до 64 ПБ KV-кешу. Компанія також стверджує, що доступний KV-кеш на один NPU може зрости з рівня гігабайтів до рівня терабайтів, що має підвищити частку влучань у кеш для запитів із довгим контекстом. 2
26
Йдеться про архітектуру спільної пам’яті на рівні SuperPoD, а не про збільшення локальної HBM на окремому чипі. Тому практична користь залежатиме від того, як ПЗ розподіляє, дістає та повторно використовує KV-кеш, а також від реального профілю запитів у конкретному розгортанні.
Архітектура: нативна KV-семантика та прямий шлях від NPU до SSD
За даними Huawei, M900 поєднує CPU, мережевий контролер і контролер NAND в одній архітектурі. Компанія заявляє, що це забезпечує нативну KV-семантику та однохоповий доступ від NPU до SSD, без перетворення протоколів і пересилання через CPU. 20
26
Опубліковані цільові показники Huawei такі:
- близько 60 мікросекунд затримки доступу;
- до 40 ТБ/с сукупної пропускної здатності на кластер;
- пропускна здатність у 1,5 раза вища за ринкові референсні рішення, за твердженням Huawei.
26
Ці цифри слід сприймати як заяви постачальника. В анонсі немає повних даних про модель, рівень паралельного навантаження, частку влучань у кеш, конфігурацію кластера чи методику порівняння. Для змістовної оцінки потрібні незалежні тести на репрезентативних production-навантаженнях.
Що Huawei заявляє про продуктивність і ресурс SSD
Для типового сценарію AI-інференсу під час програмування Huawei заявляє подвоєння пропускної здатності в токенах і вдвічі менший час до першого токена (TTFT). 14 Без оприлюднених деталей про базову систему та навантаження цих даних недостатньо, щоб робити узагальнення для всіх моделей або стеків інференсу.
Компанія також описує механізм KV-aware adaptive storage: логіка розміщення даних враховує цінність і строк життя кешу, щоб обирати відповідний носій. Huawei заявляє до 24 DWPD і приблизно 16-разове поліпшення ресурсу читання/запису SSD завдяки гібридним носіям та оптимізованому алгоритму утримання даних. 16
18 Ці показники довговічності також потребують перевірки за реальних темпів запису й політик керування кешем.
Місце M900 у ширшій стратегії SuperPoD
Анонс M900 — це радше демонстрація архітектурного підходу, ніж окрема новина про сховище. Huawei описує UnifiedBus як інтерконект, який з’єднує кластери та SuperPoD для агентного AI, а M900 у цій схемі виконує роль рівня зберігання контексту. 23
У цій конструкції:
- прискорювачі Ascend забезпечують обчислення;
- UnifiedBus/Lingqu відповідає за з’єднання та спільне використання ресурсів;
- OceanStor M900 додає постійний спільний KV-кеш у петабайтному масштабі.
Отже, M900 сам по собі не додає моделі обчислювальної потужності й не замінює ані прискорювачі, ані високошвидкісні інтерконекти. Його обіцянка — послабити тиск на пам’ять, який виникає, коли великі контекстні вікна та повторювані кроки AI-агентів роблять KV-кеш не менш важливим ресурсом, ніж обчислення. 2
23
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Huawei OceanStor M900: новий рівень контекстної пам’яті для AI-інференсу"?
На HUAWEI CONNECT 2026 компанія представила OceanStor M900 — спільний рівень KV кешу для AI інференсу в гіпермасштабних датацентрах і SuperPoD кластерах із заявленою ємністю до 64 ПБ на кластер.
What are the key points to validate first?
На HUAWEI CONNECT 2026 компанія представила OceanStor M900 — спільний рівень KV кешу для AI інференсу в гіпермасштабних датацентрах і SuperPoD кластерах із заявленою ємністю до 64 ПБ на кластер. Система використовує Lingqu UnifiedBus для глобального багаторівневого KV кешу та орієнтована на наддовгі контексти й багатокрокові агентні сценарії інференсу.
What should I do next in practice?
Huawei заявляє близько 60 мкс затримки, 40 ТБ/с сукупної пропускної здатності та подвоєння токенного throughput у сценарії AI кодування, але повної методики порівняння не оприлюднила.
Sources
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei