Mengapa CPU Vera NVIDIA Berpotensi Menantang Intel dan AMD di Server AI

Pusat data AI selama ini hampir selalu mengandalkan CPU server berbasis x86 dari Intel atau AMD untuk mengatur pekerjaan komputasi di sekitar GPU. Namun NVIDIA kini mencoba pendekatan berbeda melalui CPU Vera berbasis Arm, yang dirancang khusus untuk mendukung infrastruktur AI berskala besar.

Alih‑alih hanya menjadi prosesor host umum, Vera dibuat untuk bekerja sangat dekat dengan GPU NVIDIA. Strateginya jelas: menciptakan platform komputasi AI yang sepenuhnya terintegrasi, dari CPU hingga GPU dan jaringan.

Jika adopsinya meluas di kalangan penyedia cloud besar, pendekatan ini berpotensi menggeser sebagian ekosistem server AI dari arsitektur x86 tradisional.

CPU yang Dirancang Khusus untuk Infrastruktur AI

Vera adalah prosesor server kompatibel Arm yang dikembangkan NVIDIA untuk menangani tugas yang umum di pusat data AI—seperti orkestrasi workload, pipeline inferensi, dan framework agen AI.

Beberapa spesifikasi utama yang diumumkan meliputi:

• 88 core Arm kustom “Olympus” yang dirancang NVIDIA.
• Bandwidth memori LPDDR5X hingga 1,2 TB/s, jauh lebih tinggi dibanding banyak CPU server konvensional.
• Hingga 1,5 TB memori sistem yang terhubung langsung ke prosesor.
• Spatial multithreading yang memungkinkan 176 thread berjalan bersamaan.

Menurut NVIDIA, arsitektur ini difokuskan pada throughput berkelanjutan untuk tugas yang sering muncul dalam sistem AI modern—misalnya kompilasi model, eksekusi tool AI, runtime engine, dan pipeline inferensi skala besar.

Klaim Keunggulan Performa Dibanding Server x86

NVIDIA menyebut bahwa desain Vera dapat memberi keuntungan performa dibanding CPU server tradisional yang dipakai bersama GPU.

Beberapa klaim utama meliputi:

• Hingga 50% performa lingkungan software lebih cepat, setara sekitar 1,5× peningkatan kecepatan dalam benchmark internal NVIDIA.
• Bandwidth memori hingga 1,2 TB/s, membantu memastikan GPU selalu mendapatkan data dengan cepat.
• Bandwidth per core yang jauh lebih tinggi, dilaporkan beberapa kali lipat dibanding CPU pusat data konvensional.

Perbedaan ini muncul karena jenis pekerjaan di pusat data AI sudah berubah. CPU tidak lagi melakukan sebagian besar komputasi utama. Sebaliknya, CPU bertugas:

• Mengorkestrasi cluster GPU
• Mengelola pipeline data
• Menjalankan runtime AI dan framework agen

Dalam konteks ini, bandwidth memori dan konektivitas GPU sering kali lebih penting daripada performa CPU tradisional. Vera dirancang khusus untuk kebutuhan tersebut.

NVIDIA juga mengatakan sistem berbasis Vera dapat memberikan sekitar dua kali efisiensi energi dibanding infrastruktur CPU tradisional pada beberapa workflow AI.

Platform Vera Rubin NVL72: Sistem AI Skala Rak

Vera tidak dimaksudkan untuk bersaing terutama sebagai CPU server mandiri. Peran utamanya adalah dalam arsitektur Vera Rubin NVL72, sistem AI skala rak yang dirancang untuk pelatihan dan inferensi model besar.

Dalam konfigurasi ini:

• Satu rak dapat menggabungkan 36 CPU Vera dan 72 GPU Rubin.
• CPU dan GPU dihubungkan melalui NVLink‑C2C berkecepatan tinggi untuk berbagi data dengan sangat cepat.

Desain ini mencerminkan strategi NVIDIA menuju infrastruktur AI full‑stack, di mana CPU, GPU, jaringan, dan software dirancang sebagai satu sistem terpadu.

Pendekatan ini berbeda dari arsitektur pusat data tradisional, di mana GPU biasanya dipasang ke server x86 generik melalui PCIe. Dengan integrasi lebih erat antara CPU dan GPU, NVIDIA berharap dapat mengurangi bottleneck pergerakan data dan orkestrasi komputasi.

Adopsi Awal oleh Hyperscaler dan OEM

Beberapa perusahaan cloud besar dan produsen server telah disebut sebagai mitra yang berencana menggunakan Vera.

Penyedia cloud yang disebut dalam pengumuman NVIDIA antara lain:

• Alibaba Cloud
• ByteDance
• Meta
• Oracle Cloud Infrastructure
• CoreWeave dan platform AI cloud lainnya

Di sisi hardware, sistem berbasis Vera akan diproduksi oleh perusahaan seperti Dell Technologies, HPE, Lenovo, dan Supermicro, dengan mitra manufaktur termasuk ASUS, Foxconn, dan Quanta Cloud Technology.

Ini menunjukkan target utama Vera adalah infrastruktur AI hyperscale, bukan server enterprise tradisional.

Proyeksi Pasar dan Perkiraan Pengiriman

Beberapa perkiraan industri menunjukkan seberapa besar peluang pasar yang dibidik NVIDIA.

Menurut pernyataan perusahaan dan laporan analis:

• NVIDIA mengatakan Vera membuka akses ke pasar senilai sekitar $200 miliar yang sebelumnya tidak mereka masuki.
• Perusahaan memperkirakan sekitar $20 miliar pendapatan dari CPU Vera dalam periode fiskal saat ini.
• Beberapa analis memproyeksikan sekitar 4 juta CPU Vera dapat dikirim pada FY2027, berpotensi menghasilkan sekitar $20 miliar jika proyeksi tersebut tercapai.

Angka‑angka ini berasal dari komentar perusahaan dan pemodelan analis, sehingga tetap merupakan perkiraan ke depan, bukan hasil yang sudah pasti.

Apa Artinya bagi Intel dan AMD

Prosesor Intel Xeon dan AMD EPYC masih mendominasi pasar CPU server saat ini. Namun peran CPU di pusat data AI mulai berubah.

Kini CPU lebih sering digunakan untuk:

• Mengkoordinasikan workload GPU
• Mengelola pipeline data
• Menjalankan software orkestrasi dan sistem agen AI

Perubahan ini membuat arsitektur yang dioptimalkan untuk bandwidth dan konektivitas GPU menjadi semakin penting. Vera dirancang khusus untuk peran tersebut.

Jika platform ini berhasil diadopsi luas, industri mungkin melihat pergeseran bertahap dari server x86 generik menuju CPU Arm khusus yang terintegrasi erat dengan akselerator AI.

Bagi NVIDIA, strategi ini juga berarti mengendalikan lebih banyak lapisan dalam stack pusat data—mulai dari GPU hingga CPU, jaringan, dan software. Dalam jangka panjang, pendekatan tersebut bisa mengubah cara infrastruktur AI dibangun di pusat data modern.