AnswersPublished17 sources
Huawei OceanStor M900, yapay zekâ çıkarımında bağlam belleğini 64 PB’a taşımayı hedefliyor
Huawei, HUAWEI CONNECT 2026’da hyperscale yapay zekâ çıkarımı için OceanStor M900’ü tanıttı. Lingqu UnifiedBus ile çalışan yapı, KV Cache’i hızlandırıcı belleği ve DRAM’den SSD’lere uzanan çok katmanlı, küresel bir havuzda birleştiriyor; hedef uzun bağlamlı ve çok turlu agentic AI iş yükleri.
YayımlayanGPT-5.6 Terra ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Huawei, HUAWEI CONNECT 2026’da hyperscale yapay zekâ çıkarımı için OceanStor M900’ü tanıttı.
- Lingqu UnifiedBus ile çalışan yapı, KV Cache’i hızlandırıcı belleği ve DRAM’den SSD’lere uzanan çok katmanlı, küresel bir havuzda birleştiriyor; hedef uzun bağlamlı ve çok turlu agentic AI iş yükleri.
- Huawei yaklaşık 60 µs erişim gecikmesi, 40 TB/s toplam küme bant genişliği ve AI kodlama senaryosunda 2 kat token çıktısı iddiasında bulunuyor.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei, OceanStor M900 Context Memory Storage adlı sistemini hyperscale veri merkezlerindeki yapay zekâ çıkarımı için tanıttı. Ürün, hızlandırıcılardaki HBM’i ya da DRAM’i ikame etmeyi değil; SuperPoD altyapılarında KV Cache için paylaşımlı ve ölçeklenebilir bir bağlam belleği katmanı eklemeyi amaçlıyor. Bu yaklaşım, çok uzun istemlerde ve çok adımlı agentic AI görevlerinde büyüyen KV Cache darboğazına odaklanıyor. 2
23
Sorun ne: KV Cache yalnızca HBM ve DRAM’e sığmıyor
Büyük dil modeli çıkarımı sırasında KV Cache, modelin daha önce işlediği token’lardan oluşan ara durumu tutar. Aynı veya benzer bağlamın sonraki sohbet turlarında ya da bir yapay zekâ ajanının izleyen adımlarında yeniden kullanılması, gereksiz hesaplama ve veri işleme yükünü azaltabilir.
Huawei’ye göre çok uzun bağlam pencereleri ile çok turlu çıkarım, çip içi bellek ve DRAM kapasitesinin sınırlarına dayanıyor. Şirketin Lingqu olarak da adlandırdığı UnifiedBus, tek atlamalı bağlantılar üzerinden küresel ve çok katmanlı bir KV Cache oluşturuyor; önbellek katmanını hızlandırıcı belleği ve DRAM’den SSD’lere genişletiyor. 2
26
Özetle M900, bağlamın daha büyük bölümünü en pahalı bellek katmanlarında sürekli tutmak yerine, saklanabilir, paylaşılabilir ve yeniden kullanılabilir hâle getirmeyi hedefliyor.
Kapasite iddiası: Küme başına 64 PB
Huawei, bir M900 kümesinin 64 PB’a kadar KV Cache sağlayabileceğini belirtiyor. Şirket ayrıca NPU başına kullanılabilir KV Cache’in GB ölçeğinden TB ölçeğine çıkabileceğini; bunun da uzun bağlamlı isteklerde cache hit oranını artıracağını söylüyor. 2
26
Bu, tek bir çipin yerel HBM kapasitesini yükseltme yaklaşımı değil; SuperPoD düzeyinde paylaşımlı bir bellek mimarisi. Dolayısıyla gerçek hayattaki fayda, yazılımın KV Cache’i nasıl yerleştirdiğine, geri çağırdığına ve yeniden kullandığına; ayrıca iş yüklerindeki istek profilinin niteliğine bağlı olacak.
Mimari: Yerel KV semantiği ve NPU’dan SSD’ye tek atlama
Huawei’nin açıklamasına göre M900; CPU, ağ denetleyicisi ve NAND denetleyicisini tek bir mimaride birleştiriyor. Şirket, bunun yerel KV semantiği sağladığını ve NPU’nun SSD’ye protokol dönüşümü ya da CPU üzerinden yönlendirme olmadan tek atlamada erişebilmesini mümkün kıldığını ifade ediyor. 20
26
Huawei’nin açıkladığı hedef değerler şöyle:
- Yaklaşık 60 mikrosaniye erişim gecikmesi,
- Küme başına 40 TB/s toplam bant genişliği,
- Şirketin referans aldığı sektör çözümlerine kıyasla 1,5 kat daha yüksek bant genişliği.
26
Bu değerler üretici beyanı olarak görülmeli. Duyuruda kullanılan model, eşzamanlı kullanıcı yükü, cache hit oranları, küme yapılandırması veya karşılaştırma metodolojisine ilişkin ayrıntılı bilgi bulunmuyor. Anlamlı bir değerlendirme için temsili üretim iş yüklerinde bağımsız testlere ihtiyaç var.
Token çıktısı ve SSD dayanıklılığı için öne sürülenler
Huawei, tipik bir AI kodlama çıkarımı senaryosunda 2 kat token çıktısı ve ilk token’a kadar geçen sürenin (TTFT) yarıya inmesi sonucunu bildirdi. 14 Ancak temel alınan sistem ve iş yükü ayrıntıları yayımlanmadığından, bu sonuç tüm modeller veya tüm çıkarım yazılımı yığınları için genellenemez.
Şirket ayrıca KV-aware adaptive storage adını verdiği bir depolama düzenleme yaklaşımından söz ediyor. Buna göre yerleştirme mantığı, önbellekteki verinin değeri ve beklenen yaşam süresini hesaba katarak uygun depolama ortamını seçiyor. Huawei; hibrit ortam ve optimize edilmiş retention algoritmasıyla 24 DWPD’ye kadar dayanıklılık ve SSD okuma-yazma ömründe yaklaşık 16 kat iyileşme iddiasında bulunuyor. 16
18 Bu iddiaların da gerçek yazma yoğunluğu ve önbellek yönetimi politikaları altında doğrulanması gerekiyor.
SuperPoD stratejisindeki yeri
M900 duyurusu, bağımsız bir depolama ürününden çok daha geniş bir altyapı tasarımının parçası niteliğinde. Huawei, UnifiedBus’ı agentic AI için kümeleri ve SuperPoD’ları birbirine bağlayan bir ara bağlantı teknolojisi olarak konumlandırıyor; M900 ise bu yığının depolama ve bağlam belleği katmanını oluşturuyor. 23
Bu tabloda:
- Ascend hızlandırıcılar işlem gücünü sağlıyor,
- UnifiedBus/Lingqu ara bağlantı ve kaynak paylaşımını üstleniyor,
- OceanStor M900 ise PB ölçeğinde kalıcı, paylaşımlı KV Cache ekliyor.
Bu nedenle M900 tek başına modele ek hesaplama gücü kazandırmıyor; ne hızlandırıcıların ne de yüksek hızlı ara bağlantıların yerini alıyor. Asıl vaat, uzun bağlam pencereleri ve tekrarlayan ajan adımları KV Cache’i hesaplama kadar önemli bir unsur hâline getirdiğinde ortaya çıkan bellek baskısını azaltmak. 2
23
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Huawei OceanStor M900, yapay zekâ çıkarımında bağlam belleğini 64 PB’a taşımayı hedefliyor"?
Huawei, HUAWEI CONNECT 2026’da hyperscale yapay zekâ çıkarımı için OceanStor M900’ü tanıttı.
What are the key points to validate first?
Huawei, HUAWEI CONNECT 2026’da hyperscale yapay zekâ çıkarımı için OceanStor M900’ü tanıttı. Lingqu UnifiedBus ile çalışan yapı, KV Cache’i hızlandırıcı belleği ve DRAM’den SSD’lere uzanan çok katmanlı, küresel bir havuzda birleştiriyor; hedef uzun bağlamlı ve çok turlu agentic AI iş yükleri.
What should I do next in practice?
Huawei yaklaşık 60 µs erişim gecikmesi, 40 TB/s toplam küme bant genişliği ve AI kodlama senaryosunda 2 kat token çıktısı iddiasında bulunuyor.
Sources
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei