Nvidiin superpočítač Vera Rubin: Rack za 7,8 milionu dolarů, kde GPU nejsou hlavní položkou

Hlavní zpráva: rack za 7,8 milionu dolarů

Podle zprávy analytika Howarda Kaa z Morgan Stanley se cena racku Vera Rubin NVL72 (VR200) při nákupu u výrobce (ODM) pohybuje kolem 7,8 milionu dolarů. Pro srovnání, současný Blackwell GB300 stojí necelé 4 miliony dolarů.

Toto zdražení je plošné a týká se prakticky všech součástí uvnitř racku. Nejde jen o žetony. Dle odhadů došlo k následujícím nárůstům:

• Paměti: nárůst nákladů o přibližně 435 %
• Desky plošných spojů (PCB): nárůst o cca 233 %
• Vícevrstvé keramické kondenzátory (MLCC): nárůst o cca 182 %
• ABF substráty: nárůst o cca 82 %

Jinými slovy, prakticky každý subsystém v racku je dražší, což odráží rostoucí komplexitu AI systémů.

Paměť je hlavním hnacím motorem cen

Nejvýraznějším zdražujícím faktorem jsou paměti nové generace.

GPU v Rubin platformě využívají paměti HBM4 (High Bandwidth Memory). To je nástupce HBM3 a HBM3e, který má poskytnout masivní propustnost pro obří AI modely.

K tomu platforma přidává nový procesor Nvidia Vera CPU s obrovským LPDDR5X paměťovým subsystémem v podobě modulů SOCAMM. Ten nabízí kapacitu až 1,5 TB.

Výrobci pamětí již zahájili výrobu speciálně pro Rubin. Například Micron potvrdil sériovou výrobu HBM4 stacků a SOCAMM2 modulů určených právě pro tuto platformu.

Výsledkem je, že celkový paměťový otisk a cena na jeden rack dramaticky rostou. Podle některých odhadů by samotné paměti mohly tvořit zhruba čtvrtinu celkové ceny racku (asi 26 %), což je mnohem více než u předchozích generací.

Roste i systémová komplexita

Ale není to jen paměť. Rubin integruje do jednoho racku několik specializovaných čipů a síťových technologií, které zvyšují složitost celého systému.

Architektura kombinuje:

• Procesor Vera CPU
• GPU Rubin
• NVLink switch
• Síťovou kartu ConnectX SuperNIC
• DPU BlueField
• Ethernet switch Spectrum

Tato míra integrace vyžaduje mnohem pokročilejší desky, propojení a systémy napájení, než tomu bylo u dřívějších AI serverů.

Důsledkem jsou výrazné nárůsty nákladů u podpůrného hardwaru:

• PCB: desky mají více vrstev (např. 26 místo 22) a používají kvalitnější materiály pro vysokorychlostní přenosy. Rubin také přidává zcela novou 44vrstvou propojovací desku „mid-board PCB“, která v Blackwellu nebyla.
• MLCC: s novými moduly (BlueField, ConnectX) roste počet pasivních součástek potřebných pro stabilitu napájení.
• ABF substráty: obaly čipů jsou větší a technologicky vyspělejší.

I když se může zdát každá z těchto položek jako drobnost, v celém racku s desítkami akcelerátorů a síťových prvků jejich cena výrazně narůstá.

GPU jsou stále drahé, ale jejich podíl klesá

GPU zůstává nejdražší jednotlivou komponentou, ale jeho podíl na celkové ceně systému se zmenšuje. Podle odhadů stojí jeden Rubin GPU přibližně 55 000 dolarů, což je o 57 % více než předchozí Blackwell.

Nicméně, protože paměti a ostatní systémové komponenty zdražily ještě výraznějším tempem, GPU nyní tvoří menší procento celkové ceny racku. To je zásadní změna: výkon moderních AI systémů stále více závisí na celé architektuře, nejen na samotném akcelerátoru.

Co to znamená pro AI dodavatelský řetězec?

Změna struktury nákladů má důležité důsledky pro celý polovodičový ekosystém.

1. Více firem těží z AI boomu: Zatímco dříve profitovali hlavně výrobci GPU, nyní rostoucí podíl hodnoty získávají i výrobci:

• HBM a DRAM pamětí (jako Micron, Samsung, SK hynix)
• pokročilých obalových substrátů (ABF)
• vícevrstvých PCB
• pasivních součástek (MLCC)

2. Kritická je výroba pamětí a kapacita pokročilého obalování: Vzhledem k závislosti Rubinu na HBM4 by případná omezení v dodávkách pamětí mohla přímo ovlivnit tempo nasazování AI infrastruktury. Výroba HBM4 je náročná a trvá přes půl roku.

3. Výrobci systémů (ODM/OEM) získávají na významu: S rostoucí komplexitou a hodnotou samotných rackových systémů mohou jejich sestavovatelé zachytit větší část hodnoty. Samotná montáž a integrace se stává složitější důležitější.

Širší kontext: AI hardware se stává superpočítačem v racku

Očekávaná cena 7,8 milionu dolarů ukazuje, jak rychle se AI infrastruktura vyvíjí.

Zatímco dříve šlo o GPU akcelerátory zapojené do standardních serverů, nové platformy jako Rubin jsou již od základu navrženy jako plně integrované AI superpočítače v jedné skříni. Kombinují výpočetní výkon, paměť, propojení i úložiště v jediném úzce optimalizovaném systému.

Díky tomu se cena jednoho racku může blížit ceně celé malé databáze. A ekonomika AI hardwaru se přestává točit jen kolem GPU, ale stále více se zaměřuje na celý systém, který GPU obklopuje.

Je však důležité mít na paměti, že uvedená cena 7,8 milionu dolarů je analytickým odhadem založeným na analýze dodavatelského řetězce. Nvidia oficiální ceny svých Rubin systémů dosud nezveřejnila. Bez ohledu na přesné číslo je však směr jasný: nová generace AI infrastruktury bude dražší a mnohem komplexnější než kdy dříve.