Mengapa Rak AI Vera Rubin Nvidia Bisa Menyentuh $7,8 Juta

• Memori: naik sekitar 435%
• PCB (printed circuit board): naik sekitar 233%
• MLCC (multilayer ceramic capacitor): naik sekitar 182%
• ABF substrate: naik sekitar 82%

Dengan kata lain, hampir setiap komponen di dalam rak AI menjadi lebih mahal karena kompleksitas sistem yang semakin tinggi.

Memori menjadi pendorong biaya terbesar

Lonjakan biaya paling besar berasal dari teknologi memori baru yang digunakan oleh platform Rubin.

GPU Rubin menggunakan HBM4 (High Bandwidth Memory), generasi terbaru memori berkecepatan sangat tinggi yang dirancang untuk menangani model AI berukuran besar.

Di sisi lain, CPU Nvidia Vera dilengkapi dengan subsistem memori LPDDR5X berkapasitas besar yang dapat mencapai hingga 1,5 TB, menggunakan modul SOCAMM.

Vendor memori sudah mulai memproduksi komponen tersebut khusus untuk ekosistem Rubin. Misalnya, Micron mengumumkan produksi massal HBM4 stack dan modul SOCAMM2 untuk platform ini.

Karena sistem Rubin menggabungkan:

• HBM4 berbandwidth sangat tinggi untuk GPU
• LPDDR5X berkapasitas besar untuk CPU

…jumlah total memori dalam satu rak meningkat drastis. Beberapa analisis memperkirakan memori saja bisa menyumbang sekitar 25–26% dari total biaya rak, jauh lebih besar dibanding generasi sebelumnya.

Kompleksitas sistem meningkat di seluruh rak

Selain memori, arsitektur Rubin juga memperkenalkan integrasi banyak chip khusus dalam satu sistem yang sangat terhubung.

Platform ini menggabungkan beberapa komponen utama, antara lain:

• CPU Vera
• GPU Rubin
• NVLink switch untuk komunikasi antar‑GPU
• ConnectX SuperNIC untuk jaringan berkecepatan tinggi
• BlueField DPU untuk offload jaringan dan keamanan
• Spectrum Ethernet switch untuk infrastruktur data center

Integrasi sebesar ini membutuhkan desain papan sirkuit, interkoneksi, dan sistem daya yang jauh lebih kompleks dibanding server GPU generasi sebelumnya.

Akibatnya, banyak komponen pendukung ikut melonjak biayanya:

• PCB: membutuhkan lebih banyak layer dan material kualitas tinggi untuk sinyal berkecepatan tinggi
• MLCC: jumlah komponen pasif meningkat untuk menjaga stabilitas daya
• ABF substrate: paket chip yang lebih besar dan lebih kompleks

Secara individual, komponen ini mungkin terlihat kecil. Namun dalam rak yang berisi puluhan akselerator dan perangkat jaringan, total biayanya menjadi sangat signifikan.

GPU masih mahal—tapi bukan lagi dominan

GPU tetap menjadi komponen tunggal paling mahal dalam sistem. Namun proporsinya terhadap total biaya rak semakin mengecil.

Beberapa estimasi menyebutkan harga satu GPU Rubin sekitar $55.000, sekitar 57% lebih mahal dibanding generasi Blackwell.

Meski demikian, pertumbuhan biaya memori dan komponen sistem lain jauh lebih cepat. Akibatnya, GPU tidak lagi mendominasi komposisi biaya rak seperti sebelumnya.

Perubahan ini menunjukkan pergeseran penting dalam desain hardware AI: performa tidak lagi hanya bergantung pada akselerator, tetapi pada arsitektur sistem secara keseluruhan.

Dampak bagi rantai pasok AI

Perubahan struktur biaya ini membawa implikasi besar bagi industri semikonduktor.

Pertama, lebih banyak perusahaan ikut menikmati boom AI. Bukan hanya produsen GPU, tetapi juga perusahaan yang memproduksi:

• memori HBM dan DRAM
• substrate paket chip
• PCB berlapis tinggi
• komponen pasif seperti kapasitor

…semuanya mendapatkan porsi nilai yang semakin besar dari infrastruktur AI.

Kedua, pasokan memori menjadi faktor kritis. Karena Rubin sangat bergantung pada HBM4, keterbatasan produksi memori dapat memperlambat ekspansi infrastruktur AI secara global.

Ketiga, ODM dan OEM—perusahaan yang merancang dan merakit server AI untuk hyperscaler—berpotensi memperoleh nilai lebih besar karena sistem yang mereka bangun kini jauh lebih kompleks.

Gambaran besar: AI berubah menjadi superkomputer skala rak

Label harga sekitar $7,8 juta untuk satu rak menggambarkan betapa cepatnya evolusi infrastruktur AI.

Server AI generasi lama pada dasarnya hanyalah GPU yang dipasang ke server standar. Platform seperti Rubin dirancang sebagai superkomputer AI terintegrasi dalam satu rak, yang menggabungkan komputasi, memori, jaringan, dan sistem penyimpanan dalam satu arsitektur terpadu.

Transformasi inilah yang membuat biaya satu rak kini bisa setara dengan investasi kecil untuk sebuah pusat data.

Namun perlu dicatat: angka $7,8 juta berasal dari estimasi analis berdasarkan analisis rantai pasok, dan Nvidia sendiri belum mengumumkan harga resmi untuk sistem Rubin.

Meski begitu, arah industrinya sudah jelas: generasi berikutnya dari infrastruktur AI tidak lagi ditentukan oleh satu chip saja, melainkan oleh seluruh sistem yang mengelilinginya.