Nvidia Vera CPU: Otak Baru untuk Pusat Data AI Generasi Berikutnya

Unit awal tersebut bahkan disebut diantar langsung oleh Ian Buck, VP hyperscale dan HPC Nvidia, sebagai bagian dari peluncuran awal kepada mitra strategis.

Organisasi‑organisasi ini menjadi pihak pertama yang menguji bagaimana CPU baru Nvidia bekerja dalam sistem AI generasi berikutnya yang dibangun di sekitar GPU Rubin.

Mengapa Nvidia Membuat CPU Sendiri

Selama bertahun‑tahun Nvidia mendominasi infrastruktur AI lewat GPU. Namun sistem AI modern membutuhkan lebih dari sekadar GPU—mereka membutuhkan CPU yang dapat mengoordinasikan banyak proses kompleks.

Contoh tugas yang banyak terjadi pada sistem AI modern antara lain:

• orkestrasi agent dan workflow multi‑langkah
• retrieval‑augmented generation (RAG) dengan query database
• simulasi dan reinforcement learning
• sandbox eksekusi alat atau kode

Beban kerja ini lebih bergantung pada koordinasi CPU, akses memori cepat, dan komunikasi yang sangat cepat dengan GPU. Vera dirancang khusus untuk kebutuhan tersebut.

Arsitektur Teknis Vera CPU

Spesifikasi publik menunjukkan bahwa Vera merupakan CPU berbasis Arm yang menggunakan inti kustom Nvidia.

Fitur utama arsitektur Vera meliputi:

• 88 core Armv9.2 kustom "Olympus"
• 176 thread melalui spatial multithreading
• Bandwidth memori sekitar 1,2 TB/s
• Koneksi NVLink‑C2C koheren ke GPU hingga ~1,8 TB/s

Desain ini memungkinkan CPU bertindak sebagai mesin memori dan orkestrasi dalam sistem AI, sementara GPU Rubin melakukan komputasi tensor berat yang dibutuhkan untuk pelatihan dan inferensi model AI.

Pendekatan ini melanjutkan strategi Nvidia menggunakan silikon Arm kustom untuk pusat data, setelah sebelumnya memperkenalkan Grace CPU pada platform Grace Hopper.

Klaim Performa untuk Agentic AI

Nvidia memposisikan Vera sebagai CPU yang dioptimalkan untuk workflow AI kompleks yang melibatkan koordinasi banyak komponen.

Menurut benchmark internal Nvidia, Vera dapat memberikan:

• hingga 2× efisiensi lebih tinggi dibanding CPU rack‑scale tradisional
• sekitar 50% peningkatan performa pada beberapa workload
• sandbox agent hingga 50% lebih cepat
• query data perusahaan hingga 3× lebih cepat

Sebagian besar angka tersebut berasal dari benchmark internal Nvidia, sehingga masih membutuhkan verifikasi independen untuk memastikan perbandingan di dunia nyata.

Peran Vera dalam Platform Rubin NVL72

Vera tidak dirancang untuk digunakan sendiri. Ia menjadi bagian dari sistem AI skala rak bernama Vera Rubin NVL72.

Satu rak NVL72 menggabungkan berbagai komponen Nvidia, termasuk:

• 72 GPU Rubin
• 36 CPU Vera
• switch NVLink 6
• ConnectX‑9 SuperNIC untuk jaringan
• BlueField‑4 DPU untuk pemrosesan data
• jaringan Quantum‑X800 InfiniBand atau Spectrum‑X Ethernet

Semua komponen ini bekerja sebagai satu sistem komputasi terpadu yang dirancang untuk pelatihan model besar, inferensi AI, dan workload agentic AI.

Nvidia juga menggambarkan konfigurasi rak CPU Vera khusus yang dapat berisi hingga 256 CPU berpendingin cairan, terutama untuk tugas orkestrasi agent dan reinforcement learning dalam klaster AI besar.

Dampaknya pada Persaingan CPU Server

Peluncuran Vera menandai langkah Nvidia memasuki pasar CPU pusat data secara lebih langsung.

Pasar tersebut selama ini didominasi oleh prosesor Intel Xeon dan AMD EPYC. Namun persaingan semakin ketat. Misalnya, data Mercury Research menunjukkan bahwa AMD telah mencapai lebih dari 33% pangsa unit CPU server dan sekitar 46% pangsa pendapatan CPU server x86 pada awal 2026.

Dengan memiliki CPU sendiri, Nvidia tidak lagi harus bergantung pada vendor CPU eksternal untuk menjalankan sistem GPU mereka.

Hal ini memungkinkan integrasi lebih ketat antara:

• CPU scheduling
• akses memori GPU
• jaringan NVLink dan InfiniBand
• software seperti CUDA

Gambaran Besar: Infrastruktur AI Semakin Terintegrasi

Peluncuran Vera mencerminkan tren besar dalam industri AI: infrastruktur menjadi semakin vertikal dan terpadu.

Alih‑alih menjual chip terpisah, Nvidia kini menawarkan paket lengkap yang mencakup CPU, GPU, jaringan, DPU, dan software sebagai satu platform komputasi.

Pendekatan ini terlihat jelas pada generasi Rubin, di mana berbagai chip dirancang bersama sebagai satu sistem komputasi skala rak untuk menjalankan model AI generasi berikutnya dan agen otonom.

Jika performa yang diklaim Nvidia terbukti dalam praktik, Vera dapat memainkan peran penting dalam menentukan bagaimana pusat data AI masa depan dibangun—dengan CPU, GPU, jaringan, dan software dirancang sebagai satu arsitektur terpadu, bukan sekadar komponen terpisah.