Szafa Nvidii za prawie 8 mln dolarów: dlaczego cena rośnie tak szybko?

To odzwierciedla szerszy trend w infrastrukturze AI: nowoczesne systemy treningowe przekształcają się w superkomputery w skali szafy, gdzie wydajność zależy nie tylko od układów akceleratorów, ale także od przepustowości pamięci, połączeń i konstrukcji całego systemu.

Nagłówek: szafa za blisko 8 mln dolarów

Według analityków koszt pojedynczej szafy Nvidia Rubin NVL72 może wynieść ok. 7,8 mln dolarów – mniej więcej dwukrotność ceny szafy Blackwell .

Wzrost cen ma charakter szerokopasmowy i obejmuje cały system, a nie tylko układy GPU. Szacunki analityków pokazują:

• Koszt pamięci rośnie o ok. 435%
• Koszt płytek PCB (obwodów drukowanych) rośnie o ok. 233%
• Koszt kondensatorów MLCC (wielowarstwowych kondensatorów ceramicznych) rośnie o ok. 182%
• Koszt podłoży ABF (do zaawansowanego pakowania) rośnie o ok. 82%

Innymi słowy, prawie każdy podsystem w szafie staje się droższy, wraz ze wzrostem złożoności systemów AI.

Pamięć jako największy czynnik kosztów

Najbardziej gwałtowny wzrost dotyczy pamięci nowej generacji zastosowanej w platformie Rubin.

Układy Rubin GPU korzystają z HBM4 (High Bandwidth Memory), następcy HBM3 i HBM3e, który ma zapewnić ogromną przepustowość dla dużych modeli AI .

Jednocześnie platforma wprowadza duży podsystem pamięci LPDDR5X podłączony do nowego procesora Nvidia Vera CPU, oferujący do 1,5 TB pojemności w modułach SOCAMM .

Producenci pamięci, tacy jak Micron, już rozpoczęli produkcję masową stosów HBM4 oraz modułów SOCAMM2 przeznaczonych dla platformy Rubin .

Ponieważ Rubin łączy:

• szybkie stosy HBM4 dla GPU
• wielkopojemnościowe pule LPDDR5X dla CPU

…całkowity koszt pamięci na szafę rośnie drastycznie. Szacunki wskazują, że sama pamięć może stanowić ok. 25% całkowitych kosztów szafy, czyli znacznie więcej niż w poprzednich generacjach .

Rośnie złożoność całego systemu

Pamięć to nie wszystko. Platforma Rubin integruje wiele wyspecjalizowanych układów i technologii sieciowych, co zwiększa złożoność.

Architektura łączy w sobie kilka ściśle zintegrowanych komponentów:

• Procesory Vera CPU
• Układy Rubin GPU
• Przełączniki NVLink
• Karty sieciowe ConnectX SuperNIC
• Procesory BlueField DPU
• Przełączniki Ethernet Spectrum

Taki poziom integracji w skali szafy wymaga znacznie bardziej zaawansowanych płytek, połączeń i systemów zasilania niż wcześniejsze serwery AI.

W rezultacie analitycy odnotowują znaczący wzrost kosztów w elementach pomocniczych:

• PCB: więcej warstw i materiały wyższej jakości dla szybkiej transmisji sygnałów
• MLCC: więcej komponentów pasywnych wymaganych dla stabilności zasilania
• ABF substraty: większe i bardziej zaawansowane podłoża do pakowania układów

Te komponenty mogą wydawać się drobne, ale w skali szafy zawierającej dziesiątki akceleratorów i urządzeń sieciowych sumują się do znacznych kwot.

GPU wciąż drogie – ale ich udział w kosztach maleje

GPU pozostaje największym pojedynczym elementem systemu, ale jego udział w całkowitych kosztach maleje wraz z rozrostem innych podsystemów.

Szacuje się, że koszt pojedynczego układu Rubin GPU wynosi ok. 55 000 dolarów, co oznacza wzrost o 57% w porównaniu z generacją Blackwell .

Jednak szybszy wzrost kosztów pamięci i komponentów systemowych sprawia, że GPU odpowiada za mniejszy procent całkowitych kosztów szafy niż dotychczas .

Ta zmiana odzwierciedla fundamentalną ewolucję w projektowaniu sprzętu AI: wydajność coraz bardziej zależy od architektury całego systemu, a nie tylko samego akceleratora.

Znaczenie dla łańcucha dostaw AI

Zmiana struktury kosztów ma ważne implikacje w całym ekosystemie półprzewodników.

Po pierwsze, zwiększa liczbę firm czerpiących korzyści z boomu AI. Dostawcy:

• pamięci HBM i DRAM
• zaawansowanych podłoży do pakowania
• płytek PCB o dużej liczbie warstw
• komponentów pasywnych

zdobywają coraz większy udział w wartości infrastruktury AI .

Po drugie, zwiększa znaczenie podaży pamięci i mocy produkcyjnych w zaawansowanym pakowaniu. Ponieważ Rubin w dużym stopniu opiera się na produkcji HBM4, ograniczenia w łańcuchu dostaw pamięci mogą bezpośrednio wpłynąć na tempo wdrażania infrastruktury AI .

Wreszcie, producenci systemów – zwłaszcza ODM i OEM montujący serwery AI w skali szafy – mogą przechwycić większą wartość, ponieważ same systemy stają się bardziej złożone .

Szerszy kontekst: sprzęt AI staje się superkomputerem w szafie

Oczekiwana cena 7,8 mln dolarów pokazuje, jak szybko ewoluuje infrastruktura AI.

Wcześniejsze generacje serwerów AI to w zasadzie akceleratory GPU podłączone do standardowych serwerów. Nowe platformy, takie jak Rubin, są projektowane jako w pełni zintegrowane superkomputery AI w jednej szafie, łączące moc obliczeniową, pamięć, sieć i architekturę pamięci masowej w jednym ściśle zoptymalizowanym systemie .

Ta transformacja sprawia, że koszt jednej szafy może dorównywać cenie małego centrum danych – i że ekonomika sprzętu AI wykracza daleko poza same GPU.

Zastrzeżenie: kwota 7,8 mln dolarów to szacunek analityków oparty na analizie łańcucha dostaw; Nvidia nie podała jeszcze oficjalnych cen systemów Rubin .

Niezależnie od dokładnej liczby, kierunek jest jasny: kolejna generacja infrastruktury AI będzie definiowana mniej przez pojedynczy układ, a bardziej przez cały system, który go otacza.