JawabanDipublikasikan23 sumber
Nvidia Vera Rubin NVL72: Klaim 30× Lebih Efisien untuk AI Agent dan Ekspansi ke Infrastruktur CPU
Vera Rubin NVL72 adalah sistem AI rack scale berpendingin cairan yang menggabungkan 72 GPU Rubin, 36 CPU Vera, NVLink 6, ConnectX 9 SuperNIC, dan BlueField 4 DPU. Nvidia mengklaim throughput beban kerja AI agent hingga 30× lebih tinggi per megawatt dibanding GB300 NVL72 dan biaya token hingga 35× lebih rendah dalam...
Diterbitkan olehDiedit dengan GPT-5.6 LunaGambar dibuat dengan GPT Image 1.5
Jawaban penelitian
Poin-poin penting
- Vera Rubin NVL72 adalah sistem AI rack scale berpendingin cairan yang menggabungkan 72 GPU Rubin, 36 CPU Vera, NVLink 6, ConnectX 9 SuperNIC, dan BlueField 4 DPU.
- Nvidia mengklaim throughput beban kerja AI agent hingga 30× lebih tinggi per megawatt dibanding GB300 NVL72 dan biaya token hingga 35× lebih rendah dalam perbandingan tertentu.
- CPU Vera memiliki 88 core Olympus, 176 thread Spatial Multithreading, bandwidth memori LPDDR5X hingga 1,2 TB/detik, serta fabric koherensi dengan bandwidth bisection hingga 3,4 TB/detik.
- Pengujian menggunakan benchmark SemiAnalysis AgentX dan model DeepSeek V4 Pro; angka tersebut merupakan klaim berbasis pengukuran Nvidia, bukan validasi independen yang telah melalui peer review.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce about its next generation Vera Rubin NVL72 platform, Vera CPU, Scale In networking, and partnerships, including the. Article summary: Nvidia’s announcement positions Vera Rubin as a rack scale, full stack “AI factory,” not merely a faster GPU generation: it combines custom GPUs, CPUs, scale up and scale out networking, DPUs, and power management softwa. Topic tags: general web, llm, agents, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Bukan sekadar GPU baru
Nvidia memosisikan Vera Rubin sebagai “pabrik AI” berskala rak, bukan hanya generasi GPU yang lebih cepat. Platform ini dirancang sebagai satu kesatuan yang mencakup GPU, CPU, jaringan scale-up dan scale-out, DPU, sistem penyimpanan, serta software untuk mengatur penggunaan daya.
Targetnya adalah meningkatkan jumlah pekerjaan AI agent yang dapat diselesaikan untuk setiap megawatt listrik. Ini penting karena AI agent tidak hanya menghasilkan satu jawaban seperti chatbot biasa. Sistem tersebut dapat melakukan penalaran berulang, memanggil tool, menjalankan kode, mengambil data, dan berkoordinasi dengan sub-agent—semuanya menambah beban pada CPU, memori, jaringan, dan GPU.
Namun, angka performa utama yang diumumkan perlu dibaca secara proporsional. Angka tersebut merupakan klaim Nvidia berdasarkan pengukuran dengan benchmark yang didukung vendor, bukan hasil pengujian independen atau validasi peer review. 8
Isi Vera Rubin NVL72
Satu rak Vera Rubin NVL72 berpendingin cairan mengintegrasikan:
- 72 GPU Rubin;
- 36 CPU Vera;
- ConnectX-9 SuperNIC;
- BlueField-4 DPU; dan
- switch generasi keenam NVLink.
Nvidia merancang konfigurasi ini agar 72 GPU dapat bekerja sebagai satu domain komputasi scale-up yang saling terhubung erat. Untuk menghubungkan satu rak dengan rak lain dalam klaster yang lebih besar, platform ini menggunakan Quantum-X800 InfiniBand atau Spectrum-X Ethernet. 3
6
Klaim efisiensi hingga 30× dibanding GB300
Dalam beban kerja AI agent, Nvidia mengklaim Vera Rubin NVL72 mampu menghasilkan throughput hingga 30× lebih tinggi per megawatt dibandingkan GB300 NVL72. Perusahaan itu juga menyebut biaya token hingga 35× lebih rendah dalam perbandingan yang sama. 8
9
Nvidia sebelumnya juga menyatakan bahwa platform Rubin secara umum dapat memangkas biaya token inferensi hingga 10× dibandingkan Blackwell. 11
Angka-angka tersebut bukan berarti setiap aplikasi akan otomatis menjadi 30× lebih murah. Hasilnya bergantung pada model, panjang konteks, target latensi, tingkat interaksi, konfigurasi sistem, dan pola penggunaan. Materi yang tersedia juga belum memberikan angka primer yang dapat dibandingkan langsung untuk Hopper, maupun nilai dolar yang terverifikasi untuk biaya setiap satu juta token.
Dengan demikian, belum cukup bukti untuk menyatakan pengali performa Hopper tertentu atau harga pasti per satu juta token. Klaim Nvidia sebaiknya dipahami sebagai hasil untuk skenario dan konfigurasi pengujian tertentu, bukan tarif layanan universal.
AgentX dan DeepSeek V4 Pro
Pengukuran Nvidia menggunakan AgentX, benchmark dari SemiAnalysis yang memutar ulang sesi coding berbasis AI dengan gaya penggunaan produksi. Pengujian tersebut mempertahankan pertumbuhan konteks, pemanggilan tool, dan pembuatan sub-agent agar sistem diuji pada pola kerja yang lebih kompleks daripada kueri chatbot satu kali. 8
9
Model yang digunakan dalam hasil yang disorot adalah DeepSeek V4 Pro. Fokus pengujian berada pada inferensi interaktif dengan konteks panjang. Dalam situasi seperti ini, jumlah FLOPS GPU bukan satu-satunya faktor penentu. Kemampuan CPU menangani orkestrasi dan eksekusi kode, bandwidth memori, latensi interkoneksi, serta efisiensi pemindahan data ikut menentukan berapa banyak pekerjaan agent yang dapat diselesaikan.
Nvidia menyatakan perbandingan tersebut menggunakan target interaksi 160 token per detik per pengguna. Pada kondisi itu, Vera Rubin NVL72 disebut mampu mencapai hingga 30× throughput per megawatt dibandingkan GB300 NVL72. 9
CPU Vera dibuat untuk pekerjaan di sekitar inferensi
CPU Vera adalah prosesor kustom Nvidia yang kompatibel dengan Armv9.2. Chip ini memiliki 88 core Olympus dan mendukung 176 thread Spatial Multithreading. 2
10
Perannya bukan menggantikan GPU dalam komputasi model utama, melainkan menangani pekerjaan CPU yang mengelilingi proses inferensi, seperti:
- pemrosesan dan pengambilan data;
- orkestrasi tugas agent;
- pemanggilan tool;
- eksekusi kode dalam sandbox;
- pengelolaan alur kerja; dan
- simulasi.
Desain tersebut ditujukan untuk menjalankan banyak tugas CPU secara bersamaan dengan latensi yang lebih konsisten. Bagi sistem AI agent, CPU yang terlalu lambat dapat membuat GPU menunggu, sehingga kapasitas akselerator yang mahal tidak termanfaatkan secara maksimal. 2
Spesifikasi memori dan interkoneksi Vera
Vera menggunakan memori LPDDR5X melalui modul SOCAMM2 dengan bandwidth agregat hingga 1,2 TB/detik, atau hingga 14 GB/detik per core. Chip ini juga memiliki unified L3 cache berkapasitas 164 MB. 7
8
Generasi kedua Scalable Coherency Fabric menghubungkan 88 core, cache L3 bersama, subsistem memori, dan I/O dengan bandwidth bisection hingga 3,4 TB/detik. Nvidia menyebut fabric ini dirancang untuk menjaga aliran data tetap lancar ketika banyak core aktif secara bersamaan.
Dibandingkan Grace, Nvidia menyatakan Vera menawarkan:
- bandwidth memori 2,4× lebih tinggi;
- kapasitas memori 3× lebih besar; dan
- bandwidth NVLink-C2C dua kali lipat untuk komunikasi CPU–GPU yang koheren.
1
Pada platform NVL72, NVLink-C2C menyediakan bandwidth koheren hingga 1,8 TB/detik antara CPU dan GPU, atau tujuh kali bandwidth PCIe Gen6 menurut Nvidia.
Apa arti “Scale-In” dalam desain Nvidia?
Istilah Nvidia membagi jaringan Vera Rubin ke dalam beberapa lapisan:
1. Scale-in atau scale-up
NVLink 6 menghubungkan 72 GPU dalam satu rak sehingga sistem dapat bekerja seperti komputer rack-scale yang sangat erat. Nvidia menetapkan bandwidth dua arah GPU-ke-GPU hingga 3,6 TB/detik per GPU dan bandwidth GPU tingkat rak hingga 260 TB/detik dalam domain 72 GPU. 3
Lapisan ini penting untuk model dan beban kerja yang harus bertukar data secara intensif di antara banyak GPU. Dengan komunikasi yang lebih cepat dan latensi lebih rendah, GPU dapat diperlakukan lebih dekat sebagai satu sumber daya komputasi terpadu.
2. Scale-out
Quantum-X800 InfiniBand dan Spectrum-X Ethernet menghubungkan beberapa rak menjadi klaster yang lebih besar. Ini adalah lapisan yang memungkinkan kapasitas AI diperluas melampaui satu rak. 3
3. Offload data dan infrastruktur
ConnectX-9 SuperNIC dan BlueField-4 DPU menangani fungsi jaringan, penyimpanan, keamanan, serta jalur data. Dengan memindahkan sebagian pekerjaan tersebut dari CPU dan GPU utama, sumber daya komputasi dapat lebih fokus pada inferensi atau pelatihan. 3
6
Jadi, “scale-in” bukan nama untuk satu produk jaringan yang berdiri sendiri. Istilah tersebut menggambarkan komunikasi berkecepatan tinggi di dalam satu sistem atau rak, yang melengkapi scale-out antarrak dan fungsi offload melalui SuperNIC serta DPU.
DSX MaxLPS: mengejar token per megawatt
Nvidia juga memperkenalkan pendekatan DSX, yaitu rancangan AI factory end-to-end yang mencakup chip, sistem, software, fasilitas, dan teknologi mitra. Di dalamnya, DSX MaxLPS ditujukan untuk memaksimalkan throughput token per unit daya sehingga biaya token dapat ditekan. 12
15
Pendekatan ini berbeda dari sekadar menjalankan perangkat keras pada daya sesaat setinggi mungkin. Sistem perlu mengalokasikan daya secara lebih cerdas di seluruh fasilitas—termasuk komputasi, jaringan, pendinginan, dan penyimpanan—agar pekerjaan AI yang benar-benar selesai per megawatt menjadi maksimal. 18
20
Manfaat praktisnya akan paling terasa ketika batas utama pembangunan data center bukan lagi ketersediaan GPU, melainkan kapasitas listrik, distribusi daya, dan kemampuan pendinginan.
Kemitraan dengan SpaceXAI dan rencana Starmind
Nvidia menyatakan SpaceXAI akan menggunakan CPU Vera untuk mendukung beban kerja AI agent generasi berikutnya. SpaceXAI juga berencana memperluas infrastruktur untuk Grok menggunakan platform Vera Rubin sembari menargetkan kapasitas komputasi berskala gigawatt. 10
Kemitraan itu direncanakan berlanjut ke proyek komputasi orbital Starmind. Satelit AI generasi pertama yang direncanakan akan menggunakan sistem Vera Rubin NVL72 yang telah dioptimalkan sebagai payload komputasi luar angkasa. 10
12
Penting untuk membedakan rencana dan kondisi saat ini: pengumuman tersebut merupakan rencana penerapan, bukan bukti bahwa pusat data AI orbital sudah beroperasi. Detail jadwal, spesifikasi akhir, serta validasi kemampuan sistem di lingkungan orbit belum tersedia secara memadai dalam sumber yang ada.
Dampaknya bagi industri AI
Jika klaim Nvidia dapat diterjemahkan ke penerapan pelanggan, keuntungan utama Vera Rubin bukan hanya peningkatan performa model. Nilai yang lebih penting adalah kemampuan menyelesaikan lebih banyak pekerjaan agent dengan listrik, pendinginan, bandwidth jaringan, dan belanja modal yang sama.
Nvidia juga memperluas medan persaingannya. Perusahaan tidak lagi hanya menjual GPU, tetapi membangun paket yang mencakup:
- CPU Arm kustom;
- sistem CPU–GPU dengan memori koheren;
- jaringan scale-up dan scale-out;
- DPU serta SuperNIC;
- software pengelolaan AI factory; dan
- desain fasilitas untuk operasi berskala besar.
Integrasi yang lebih ketat ini dapat memperkuat posisi Nvidia terhadap pesaing GPU dan produsen CPU tradisional. Di sisi lain, pelanggan berpotensi semakin bergantung pada arsitektur, jaringan, dan software Nvidia. Karena itu, dampak jangka panjang Vera Rubin akan ditentukan bukan hanya oleh angka benchmark, tetapi juga oleh ketersediaan produk, biaya implementasi, kompatibilitas software, dan hasil nyata di data center pelanggan.
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Nvidia Vera Rubin NVL72: Klaim 30× Lebih Efisien untuk AI Agent dan Ekspansi ke Infrastruktur CPU"?
Vera Rubin NVL72 adalah sistem AI rack scale berpendingin cairan yang menggabungkan 72 GPU Rubin, 36 CPU Vera, NVLink 6, ConnectX 9 SuperNIC, dan BlueField 4 DPU.
Apa poin penting yang harus divalidasi terlebih dahulu?
Vera Rubin NVL72 adalah sistem AI rack scale berpendingin cairan yang menggabungkan 72 GPU Rubin, 36 CPU Vera, NVLink 6, ConnectX 9 SuperNIC, dan BlueField 4 DPU. Nvidia mengklaim throughput beban kerja AI agent hingga 30× lebih tinggi per megawatt dibanding GB300 NVL72 dan biaya token hingga 35× lebih rendah dalam perbandingan tertentu.
Apa yang harus saya lakukan selanjutnya dalam latihan?
CPU Vera memiliki 88 core Olympus, 176 thread Spatial Multithreading, bandwidth memori LPDDR5X hingga 1,2 TB/detik, serta fabric koherensi dengan bandwidth bisection hingga 3,4 TB/detik.