RespuestasPublicado17 fuentes
Huawei OceanStor M900 lleva la memoria de contexto compartida a los SuperPoDs de IA
Huawei presentó en HUAWEI CONNECT 2026 el OceanStor M900, una capa compartida de caché KV para SuperPoDs de inferencia de IA a hiperescala, con hasta 64 PB por clúster. El sistema usa UnifiedBus, también denominado Lingqu, para agrupar y jerarquizar la caché KV entre memoria del acelerador, DRAM y SSD en cargas con...
Publicado porEditado con GPT-5.6 TerraImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- Huawei presentó en HUAWEI CONNECT 2026 el OceanStor M900, una capa compartida de caché KV para SuperPoDs de inferencia de IA a hiperescala, con hasta 64 PB por clúster.
- El sistema usa UnifiedBus, también denominado Lingqu, para agrupar y jerarquizar la caché KV entre memoria del acelerador, DRAM y SSD en cargas con contexto muy extenso y múltiples turnos de agentes.
- Huawei declara unos 60 μs de latencia, 40 TB/s de ancho de banda agregado y el doble de rendimiento de tokens en un escenario de programación con IA; son cifras del proveedor que aún requieren validación independiente.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei ha presentado OceanStor M900 Context Memory Storage como infraestructura de almacenamiento para la inferencia de IA en centros de datos de hiperescala. No pretende sustituir la HBM ni la DRAM de los aceleradores: su función es añadir una capa compartida y escalable de memoria de contexto para SuperPoDs, donde la caché KV puede convertirse en un límite importante con prompts muy largos y tareas de agentes de varios pasos. 2
23
El problema: la caché KV ya no cabe solo en HBM y DRAM
Durante la inferencia de un modelo de lenguaje grande, la caché KV conserva estados intermedios de los tokens ya procesados. Reutilizarla resulta especialmente útil cuando un contexto igual o relacionado vuelve a aparecer en nuevas rondas de una conversación o en tareas ejecutadas por agentes de IA.
Huawei sitúa el M900 como respuesta a las restricciones de capacidad de la memoria integrada y la DRAM en ventanas de contexto extremadamente largas y procesos de inferencia multivuelta. Mediante UnifiedBus —también llamado Lingqu por la compañía— el sistema construye una caché KV global, multinivel y con conexiones de un salto, extendiendo esa capa desde la memoria del acelerador y la DRAM hasta los SSD. 2
26
En términos prácticos, la apuesta consiste en conservar, compartir y reutilizar una porción mucho mayor del contexto sin obligar a que todo permanezca en los niveles de memoria más costosos.
Hasta 64 PB de caché KV por clúster, según Huawei
Huawei afirma que un clúster M900 puede ofrecer hasta 64 PB de caché KV. También sostiene que la caché KV utilizable por NPU puede pasar de la escala de los GB a la de los TB, con el objetivo de elevar la tasa de aciertos de caché en solicitudes de contexto largo. 2
26
No se trata de aumentar la HBM local de cada chip, sino de una arquitectura de memoria compartida a escala de SuperPoD. Por ello, su valor real dependerá de cómo el software distribuya, recupere y reutilice la caché KV, así como de la mezcla efectiva de solicitudes de cada despliegue.
Arquitectura: semántica KV nativa y acceso directo de NPU a SSD
Según Huawei, el M900 integra CPU, controlador de red y controlador NAND en una sola arquitectura. La empresa asegura que este diseño ofrece semántica KV nativa y permite acceso de un salto desde la NPU al SSD, evitando conversiones de protocolo y reenvíos a través de la CPU. 20
26
Las metas publicadas por la compañía son:
- alrededor de 60 microsegundos de latencia de acceso;
- hasta 40 TB/s de ancho de banda agregado por clúster;
- un ancho de banda 1,5 veces superior al de soluciones de referencia del mercado, según Huawei.
26
Estas cifras deben interpretarse como afirmaciones del proveedor. El anuncio no publica detalles completos sobre el modelo empleado, el nivel de concurrencia, las tasas de acierto de caché, la configuración del clúster ni la metodología de comparación. Harán falta pruebas independientes con cargas de producción representativas para valorar su alcance.
Rendimiento de tokens y resistencia de los SSD
Para un escenario típico de inferencia de IA orientada a programación, Huawei declara el doble de rendimiento de tokens y la reducción a la mitad del tiempo hasta el primer token (time to first token o TTFT). 14 Sin información publicada sobre la línea base y la carga de trabajo, esos resultados no permiten extrapolar una conclusión general a todos los modelos ni a todas las pilas de inferencia.
La empresa también describe un esquema de almacenamiento adaptativo consciente de la caché KV. Su lógica de colocación tiene en cuenta el valor y la vida útil de los datos de caché para elegir el medio de almacenamiento adecuado. Huawei afirma alcanzar hasta 24 DWPD —escrituras de unidad por día— y una mejora aproximada de 16 veces en la vida útil de lectura/escritura de los SSD mediante medios híbridos y un algoritmo de retención optimizado. 16
18
También en este punto, la resistencia deberá comprobarse con ritmos reales de escritura y políticas reales de gestión de caché.
Qué papel cumple dentro de los SuperPoDs
El lanzamiento del M900 es, sobre todo, una declaración de arquitectura y no solo un anuncio de almacenamiento. Huawei presenta UnifiedBus como una interconexión para unir clústeres y SuperPoDs destinados a IA basada en agentes, mientras que M900 actúa como la capa de almacenamiento y contexto de esa pila. 23
En ese esquema:
- los aceleradores Ascend aportan la capacidad de cómputo;
- UnifiedBus/Lingqu proporciona la interconexión y el uso compartido de recursos;
- OceanStor M900 incorpora una caché KV persistente y compartida a escala de petabytes.
Por tanto, el M900 no añade por sí solo capacidad de cálculo al modelo ni reemplaza a los aceleradores o las interconexiones de alta velocidad. Su promesa es aliviar el cuello de botella de memoria que aparece cuando las ventanas de contexto extensas y los pasos repetidos de los agentes hacen que la caché KV sea tan determinante como el cómputo. 2
23
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Huawei OceanStor M900 lleva la memoria de contexto compartida a los SuperPoDs de IA"?
Huawei presentó en HUAWEI CONNECT 2026 el OceanStor M900, una capa compartida de caché KV para SuperPoDs de inferencia de IA a hiperescala, con hasta 64 PB por clúster.
¿Cuáles son los puntos clave a validar primero?
Huawei presentó en HUAWEI CONNECT 2026 el OceanStor M900, una capa compartida de caché KV para SuperPoDs de inferencia de IA a hiperescala, con hasta 64 PB por clúster. El sistema usa UnifiedBus, también denominado Lingqu, para agrupar y jerarquizar la caché KV entre memoria del acelerador, DRAM y SSD en cargas con contexto muy extenso y múltiples turnos de agentes.
¿Qué debo hacer a continuación en la práctica?
Huawei declara unos 60 μs de latencia, 40 TB/s de ancho de banda agregado y el doble de rendimiento de tokens en un escenario de programación con IA; son cifras del proveedor que aún requieren validación independiente.
Fuentes
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei