RéponsesPublié17 sources
Huawei OceanStor M900 : une mémoire de contexte partagée pour les SuperPoDs d’IA
Présenté à HUAWEI CONNECT 2026, OceanStor M900 est une couche de KV Cache partagée destinée aux SuperPoDs d’inférence IA à grande échelle, avec jusqu’à 64 Po par cluster selon Huawei. Relié par UnifiedBus, aussi appelé Lingqu, le système met en commun et hiérarchise la mémoire de contexte entre accélérateurs, DRAM e...
Publié parModifié avec GPT-5.6 TerraImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- Présenté à HUAWEI CONNECT 2026, OceanStor M900 est une couche de KV Cache partagée destinée aux SuperPoDs d’inférence IA à grande échelle, avec jusqu’à 64 Po par cluster selon Huawei.
- Relié par UnifiedBus, aussi appelé Lingqu, le système met en commun et hiérarchise la mémoire de contexte entre accélérateurs, DRAM et SSD pour les contextes très longs et les agents IA multi étapes.
- Huawei annonce environ 60 µs de latence, 40 To/s de bande passante agrégée et un débit de tokens doublé dans un scénario de programmation assistée par IA ; ces résultats sont des déclarations du fournisseur.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei a présenté OceanStor M900 Context Memory Storage, une infrastructure de stockage conçue pour l’inférence IA dans les centres de données hyperscale. Son rôle n’est pas de remplacer la HBM ou la DRAM des accélérateurs : il ajoute plutôt une couche de mémoire de contexte partagée et extensible pour les SuperPoDs, là où la KV Cache devient un facteur limitant avec des prompts très longs et des flux agentiques en plusieurs étapes. 2
23
Le problème : la KV Cache ne tient plus uniquement en HBM et en DRAM
Lors de l’inférence d’un grand modèle de langage, la KV Cache conserve des états intermédiaires liés aux tokens déjà traités. La réutiliser est particulièrement utile lorsqu’un même contexte, ou un contexte voisin, revient au fil d’une conversation ou des actions successives d’un agent IA.
Huawei positionne le M900 comme une réponse aux limites de capacité de la mémoire embarquée et de la DRAM pour les fenêtres de contexte extrêmement longues et l’inférence multi-tour. Avec UnifiedBus, également nommé Lingqu par l’entreprise, le système construit une KV Cache globale et multiniveau avec des connexions en un saut, et étend cette couche depuis la mémoire des accélérateurs et la DRAM jusqu’aux SSD. 2
26
En pratique, l’objectif est de pouvoir conserver, partager et réemployer une bien plus grande part du contexte sans devoir la maintenir entièrement dans les niveaux de mémoire les plus coûteux.
Jusqu’à 64 Po de KV Cache par cluster, selon Huawei
Huawei indique qu’un cluster M900 peut fournir jusqu’à 64 Po de KV Cache. L’entreprise affirme également faire passer la KV Cache disponible par NPU d’un ordre de grandeur de quelques Go à celui de plusieurs To, afin d’augmenter les taux de succès du cache pour les requêtes à contexte long. 2
26
Il s’agit d’une architecture de mémoire partagée à l’échelle du SuperPoD, et non d’une hausse de la HBM locale d’une puce. Son intérêt concret dépendra donc de la manière dont les logiciels allouent, récupèrent et réutilisent la KV Cache, ainsi que du profil réel des requêtes d’un déploiement.
Architecture : sémantique KV native et accès NPU-SSD en un saut
Selon Huawei, le M900 intègre dans une même architecture un CPU, un contrôleur réseau et un contrôleur NAND. L’entreprise affirme que cette conception apporte une sémantique KV native et permet un accès direct du NPU au SSD en un saut, sans conversion de protocole ni relais par le CPU. 20
26
Les objectifs publiés par Huawei sont les suivants :
- environ 60 microsecondes de latence d’accès ;
- jusqu’à 40 To/s de bande passante agrégée par cluster ;
- une bande passante 1,5 fois supérieure à celle de solutions de référence du marché, selon Huawei.
26
Ces chiffres doivent être lus comme des revendications du constructeur. L’annonce ne détaille pas suffisamment le modèle utilisé, le niveau de concurrence, les taux de succès du cache, la configuration du cluster ni la méthodologie de comparaison. Des tests indépendants sur des charges de production représentatives seront nécessaires pour juger les gains effectifs.
Débit de tokens et endurance des SSD : ce que Huawei avance
Dans un scénario type d’inférence pour la programmation assistée par IA, Huawei revendique un doublement du débit de tokens et une réduction de moitié du temps avant le premier token (time to first token, TTFT). 14 En l’absence de détails publiés sur la référence de comparaison et la charge de travail, ces chiffres ne permettent toutefois pas de généraliser la conclusion à tous les modèles ni à toutes les piles logicielles d’inférence.
L’entreprise décrit aussi un mécanisme de stockage adaptatif tenant compte de la KV Cache : la logique de placement prendrait en considération la valeur et la durée de vie de chaque donnée mise en cache afin de sélectionner le support adéquat. Huawei annonce jusqu’à 24 DWPD (drive writes per day) et environ 16 fois plus d’endurance en lecture-écriture pour les SSD grâce à des médias hybrides et à un algorithme de rétention optimisé. 16
18 Là encore, l’endurance devra être vérifiée avec des volumes d’écriture et des politiques de gestion du cache représentatifs des conditions réelles.
Une pièce de l’architecture SuperPod, pas un substitut aux accélérateurs
Le lancement du M900 relève davantage d’une orientation architecturale que d’une simple annonce de stockage. Huawei présente UnifiedBus comme une interconnexion entre clusters et SuperPoDs pour l’IA agentique ; le M900 en constitue la couche de stockage et de mémoire de contexte. 23
Dans ce schéma :
- les accélérateurs Ascend assurent le calcul ;
- UnifiedBus/Lingqu assure l’interconnexion et le partage des ressources ;
- OceanStor M900 apporte une KV Cache persistante, partagée et extensible à l’échelle du pétaoctet.
Le M900 n’ajoute donc pas à lui seul de puissance de calcul au modèle et ne remplace ni les accélérateurs ni les interconnexions à très haut débit. Sa promesse est plutôt d’atténuer le goulot d’étranglement lié à la mémoire lorsque les contextes longs et les étapes répétées des agents IA font de la KV Cache une ressource aussi déterminante que le calcul. 2
23
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « Huawei OceanStor M900 : une mémoire de contexte partagée pour les SuperPoDs d’IA » ?
Présenté à HUAWEI CONNECT 2026, OceanStor M900 est une couche de KV Cache partagée destinée aux SuperPoDs d’inférence IA à grande échelle, avec jusqu’à 64 Po par cluster selon Huawei.
Quels sont les points clés à valider en premier ?
Présenté à HUAWEI CONNECT 2026, OceanStor M900 est une couche de KV Cache partagée destinée aux SuperPoDs d’inférence IA à grande échelle, avec jusqu’à 64 Po par cluster selon Huawei. Relié par UnifiedBus, aussi appelé Lingqu, le système met en commun et hiérarchise la mémoire de contexte entre accélérateurs, DRAM et SSD pour les contextes très longs et les agents IA multi étapes.
Que dois-je faire ensuite en pratique ?
Huawei annonce environ 60 µs de latence, 40 To/s de bande passante agrégée et un débit de tokens doublé dans un scénario de programmation assistée par IA ; ces résultats sont des déclarations du fournisseur.
Sources
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei