Nvidia’nın Vera Rubin AI Rack’i Neden 7,8 Milyon Dolar Olabilir? Asıl Sebep GPU’lar Değil

Bu değişim, AI altyapısında daha geniş bir trendi yansıtıyor: Modern eğitim sistemleri, performansın hızlandırıcı çipler kadar bellek bant genişliğine, ara bağlantılara ve sistem tasarımına da bağlı olduğu raf ölçeğinde süper bilgisayarlar haline geliyor.

Manşet: 8 milyon dolara yaklaşan bir raf

Analistler, tek bir Vera Rubin NVL72 rack’in maliyetinin yaklaşık 7,8 milyon dolar olacağını tahmin ediyor; bu, Blackwell tabanlı neslin kabaca iki katı.

Bu artışın, GPU silikonuyla sınırlı olmayıp tüm sistem genelinde yaygın olduğu belirtiliyor. Tedarik zinciri raporlarında atıfta bulunulan tahminler şöyle:

• Bellek maliyet içeriği yaklaşık %435 arttı
• PCB içeriği yaklaşık %233 arttı
• MLCC (çok katmanlı seramik kapasitör) içeriği yaklaşık %182 arttı
• ABF alt tabaka maliyetleri yaklaşık %82 arttı

Başka bir deyişle, AI sistemleri karmaşıklıkta ölçeklenirken rafın içindeki neredeyse her alt sistem daha pahalı hale geliyor.

Bellek en büyük maliyet itici gücü

En çarpıcı artış, Rubin platformunda kullanılan yeni nesil bellek teknolojilerinden geliyor.

Rubin GPU’ları, büyük AI modelleri için devasa bant genişliği sağlamak üzere tasarlanmış, HBM3 ve HBM3e’den sonraki adım olan HBM4’e (Yüksek Bant Genişlikli Bellek) güveniyor.

Aynı zamanda platform, yeni Nvidia Vera CPU’suna bağlı, SOCAMM modüllerini kullanarak 1,5 TB’a kadar bellek kapasitesi sunan büyük bir LPDDR5X bellek alt sistemi sunuyor.

Bellek üreticileri, bu parçaları özellikle Rubin ekosistemi için üretmeye başladı bile. Örneğin Micron, platform için tasarlanan HBM4 yığınlarının ve SOCAMM2 modüllerinin yüksek hacimli üretimini doğruladı.

Rubin aşağıdakileri birleştirdiğinden:

• GPU’lar için yüksek bant genişlikli HBM4 yığınları
• CPU’lar için büyük kapasiteli LPDDR5X havuzları

…raf başına genel bellek ayak izi ve maliyeti önemli ölçüde artıyor. Bazı tahminler, belleğin tek başına toplam raf maliyetinin yaklaşık dörtte birini oluşturabileceğini ve bunun önceki nesillerden çok daha yüksek olduğunu gösteriyor.

Sistem karmaşıklığı raf genelinde artıyor

Artan sadece bellek değil. Rubin platformu, sistem karmaşıklığını artıran birden fazla özel çip ve ağ teknolojisini entegre ediyor.

Mimari, aşağıdakiler de dahil olmak üzere sıkı bir şekilde entegre edilmiş birkaç bileşeni bir araya getiriyor:

• Vera CPU’lar
• Rubin GPU’lar
• NVLink anahtarları
• ConnectX SuperNIC ağ oluşturma
• BlueField DPU’lar
• Spectrum Ethernet anahtarları

Bu düzeydeki raf ölçeğinde entegrasyon, önceki AI sunucularından çok daha gelişmiş kartlar, ara bağlantılar ve güç dağıtım sistemleri gerektiriyor.

Sonuç olarak analistler, destekleyici donanımlarda önemli maliyet artışları bildiriyor:

• PCB’ler: Yüksek hızlı sinyallemeyi desteklemek için daha fazla katman ve daha yüksek kaliteli malzemeler
• MLCC’ler: Güç kararlılığı için gereken daha yüksek sayıda pasif bileşen
• ABF alt tabakaları: Çipler için daha büyük ve daha gelişmiş paketleme alt tabakaları

Bu bileşenler tek başına önemsiz görünebilir, ancak düzinelerce hızlandırıcı ve ağ cihazı içeren bir rafta önemli ölçüde maliyet eklerler.

GPU’lar hâlâ pahalı, ancak faturaya artık hakim değiller

GPU, sistemdeki en büyük tek bileşen olmaya devam ediyor, ancak diğer alt sistemler genişledikçe toplam maliyet içindeki payı küçülüyor.

Bazı tahminler, bir Rubin GPU’sunun maliyetini çip başına yaklaşık 55.000 dolar olarak koyuyor; bu, Blackwell nesline göre yaklaşık %57’lik bir artış anlamına geliyor.

Bununla birlikte, bellek ve sistem bileşenlerindeki daha hızlı büyüme, GPU’nun toplam raf maliyetinin daha küçük bir yüzdesini oluşturduğu anlamına geliyor.

Bu değişim, AI donanım tasarımında temel bir değişikliği yansıtıyor: Performans giderek daha fazla yalnızca hızlandırıcıya değil, tüm sistem mimarisine bağlı hale geliyor.

Bu, AI tedarik zinciri için neden önemli?

Değişen maliyet yapısının yarı iletken ekosistemi genelinde önemli etkileri var.

İlk olarak, AI patlamasından faydalanan şirketlerin sayısını artırıyor. Aşağıdakileri üreten satıcılar:

• HBM ve DRAM bellek
• gelişmiş paketleme alt tabakaları
• yüksek katmanlı PCB’ler
• pasif bileşenler

AI altyapısındaki değerin artan bir kısmını yakalıyor.

İkinci olarak, bellek arzı ve gelişmiş paketleme kapasitesinin önemini artırıyor. Rubin büyük ölçüde HBM4 üretimine bağlı olduğundan, bellek tedarik zincirindeki kısıtlamalar AI altyapısının dağıtım hızını doğrudan etkileyebilir.

Son olarak, sistem üreticileri—özellikle raf ölçeğinde AI sunucuları monte eden ODM ve OEM üreticileri—sistemlerin kendileri daha karmaşık hale geldiği için daha fazla değer yakalayabilir.

Daha büyük resim: AI donanımı raf ölçeğinde süper bilgi işleme dönüşüyor

Beklenen 7,8 milyon dolarlık fiyat etiketi, AI altyapısının ne kadar hızlı geliştiğini vurguluyor.

Önceki nesil AI sunucuları esasen standart sunuculara takılan GPU hızlandırıcılarıydı. Rubin gibi yeni platformlar, tek ve sıkı bir şekilde optimize edilmiş bir sistemde bilgi işlem, bellek, ağ ve depolama mimarisini birleştiren tamamen entegre AI süper bilgisayarları olarak tasarlanıyor.

Bu dönüşüm, tek bir rafın maliyetinin neden küçük bir veri merkezi kurulumunun fiyatına rakip olabileceğini—ve AI donanım ekonomisinin neden GPU’ların çok ötesine yayıldığını açıklıyor.

Bir uyarı: 7,8 milyon dolarlık rakam, tedarik zinciri analizine dayalı bir analist tahminidir ve Nvidia, Rubin sistemleri için resmi fiyatlandırmayı kamuya açıklamamıştır.

Ancak kesin sayı ne olursa olsun, yön açıktır: Bir sonraki AI altyapısı nesli, tek bir çipten çok, onu çevreleyen tüm sistem tarafından tanımlanacak.