Nvidia mahu Vera Rubin dilihat bukan sekadar generasi GPU yang lebih pantas. Syarikat itu memperkenalkannya sebagai “kilang AI” lengkap pada skala rak—menggabungkan GPU, CPU, rangkaian, unit pemprosesan data dan perisian pengurusan kuasa untuk mengurangkan tenaga serta kos menjalankan beban kerja AI agen (agentic AI).

Namun, angka prestasi paling besar dalam pengumuman ini ialah dakwaan Nvidia berdasarkan penanda aras yang disokong vendor, bukannya pengesahan bebas atau semakan rakan sebaya. 8

Apa yang ada dalam Vera Rubin NVL72?

Vera Rubin NVL72 ialah rak berpenyejukan cecair yang mengandungi:

• 72 GPU Rubin;
• 36 CPU Vera;
• ConnectX-9 SuperNIC untuk rangkaian berkelajuan tinggi;
• BlueField-4 DPU untuk memproses tugas rangkaian, storan dan keselamatan; serta
• suis generasi keenam NVLink.

Konfigurasinya direka supaya 72 GPU boleh berfungsi sebagai satu domain pengkomputeran yang saling berkait rapat. Untuk menyambungkan beberapa rak menjadi kelompok lebih besar, Nvidia menggunakan Quantum-X800 InfiniBand atau Spectrum-X Ethernet. 36

Dakwaan 30× lebih banyak kerja per megawatt

Nvidia mendakwa Vera Rubin NVL72 mampu memberikan sehingga 30× lebih banyak throughput kerja AI agen bagi setiap megawatt berbanding GB300 NVL72. Dalam perbandingan yang sama, kos token didakwa sehingga 35× lebih rendah. 89

Secara berasingan, Nvidia turut mendakwa platform Rubin secara umum boleh mengurangkan kos token inferens sehingga 10× berbanding Blackwell. 11

Maksudnya bukan semata-mata model menghasilkan jawapan lebih pantas. Dalam beban kerja AI agen, sistem mungkin perlu membaca konteks panjang, memanggil alat, menjalankan kod, mendapatkan data, melancarkan subagen dan mengulangi beberapa pusingan pemikiran. Oleh itu, lebih banyak kerja boleh diselesaikan dengan jumlah kuasa pusat data yang sama—sekurang-kurangnya berdasarkan konfigurasi dan senario ujian Nvidia.

AgentX dan DeepSeek V4 Pro menjadi asas perbandingan

Pengukuran tersebut menggunakan penanda aras AgentX oleh SemiAnalysis. AgentX memainkan semula sesi pengekodan AI yang menyerupai penggunaan produksi, termasuk pertumbuhan konteks sebenar, panggilan alat dan pelancaran subagen. Model yang digunakan dalam keputusan yang diketengahkan ialah DeepSeek V4 Pro. 89

Pendekatan ini cuba mengukur prestasi interaktif jangka panjang, bukan sekadar bilangan operasi GPU. Dalam situasi sedemikian, kerja CPU, lebar jalur memori dan kecekapan sambungan antara cip boleh memberi kesan besar terhadap prestasi keseluruhan.

Nvidia juga menekankan sasaran interaksi 160 token sesaat bagi setiap pengguna dalam perbandingan tertentu. 9 Tetapi angka prestasi sebegini bergantung pada model, panjang konteks, tahap interaksi, konfigurasi perkakasan dan sasaran kualiti perkhidmatan.

Bagaimana pula dengan Hopper dan kos bagi sejuta token?

Bahan sumber yang tersedia menyokong perbandingan Vera Rubin dengan GB300, tetapi tidak memberikan angka utama yang boleh dibandingkan secara langsung dengan platform Hopper. Oleh itu, tiada gandaan prestasi Hopper yang tepat dan disahkan boleh dinyatakan berdasarkan bukti ini.

Begitu juga, tiada nilai dolar yang diterbitkan secara jelas untuk “kos bagi setiap satu juta token”. Dakwaan pengurangan kos perlu dibaca sebagai perbandingan kos token dalam beban kerja dan konfigurasi tertentu, bukannya harga universal bagi semua perkhidmatan AI.

AI agen juga menggunakan lebih banyak token berbanding sembang satu pusingan kerana proses penaakulan berulang dan penggunaan alat. Data OpenRouter yang dirujuk Nvidia menyatakan beban kerja AI agen boleh menggunakan kira-kira 15× lebih banyak token berbanding permintaan sembang mudah. Angka ini membantu menjelaskan mengapa kecekapan per megawatt menjadi semakin penting.

DSX MaxLPS: mengejar token per watt, bukan kuasa maksimum

Nvidia turut mengetengahkan DSX, reka bentuk hujung ke hujung untuk “kilang AI” yang merangkumi cip, sistem, perisian, kemudahan pusat data dan teknologi rakan kongsi.

Komponen DSX MaxLPS direka untuk memaksimumkan jumlah token yang diproses bagi setiap unit kuasa, sekali gus menurunkan kos token. Fokusnya bukan sekadar mengendalikan perkakasan pada kuasa seketika yang paling tinggi, tetapi mengagihkan kuasa dengan lebih berkesan merentasi keseluruhan kemudahan. 1215

Pendekatan ini penting apabila kapasiti bekalan elektrik, penyejukan dan had operasi pusat data menjadi kekangan utama. Dalam keadaan sedemikian, sistem yang menghasilkan lebih banyak kerja berguna bagi setiap megawatt mungkin lebih bernilai daripada sistem yang hanya mempunyai prestasi puncak lebih tinggi.

CPU Vera dibina untuk kerja di sekeliling GPU

Nvidia menggambarkan Vera sebagai CPU tersuai serasi Armv9.2 yang dibangunkan untuk era AI agen. Cip ini mempunyai 88 teras Olympus dan 176 utas Spatial Multithreading. 210

CPU tersebut menyokong tugas yang mengelilingi proses inferens, termasuk:

• pemprosesan dan pengambilan data;
• penyelarasan aliran kerja;
• pemanggilan alat;
• pelaksanaan kod dalam persekitaran terasing;
• pengurusan tugas serentak; dan
• simulasi.

Ini mencerminkan perubahan dalam cara beban kerja AI beroperasi. GPU mengendalikan pengiraan model, tetapi CPU perlu memastikan alat, data, kod dan tugas agen bergerak tanpa menjadi titik kesesakan.

Spesifikasi memori dan sambungan CPU-GPU

Vera menggunakan memori LPDDR5X SOCAMM2 dengan lebar jalur agregat sehingga 1.2 TB/s, atau sehingga 14 GB/s bagi setiap teras. Fabric koherensi berskala generasi kedua menghubungkan 88 teras, cache L3 dikongsi dan subsistem memori dengan lebar jalur bisection sehingga 3.4 TB/s. Nvidia menyatakan cip itu mempunyai cache L3 bersatu berkapasiti 164 MB. 78

Bagi perbandingan dengan CPU Grace, Nvidia mendakwa Vera menawarkan:

• 2.4× lebih banyak lebar jalur memori;
• 3× kapasiti memori; dan
• dua kali ganda lebar jalur NVLink-C2C bagi operasi CPU-GPU yang koheren. 1

Dalam platform NVL72, NVLink-C2C pula menyediakan sehingga 1.8 TB/s lebar jalur koheren antara CPU dan GPU—tujuh kali ganda berbanding PCIe Gen6 menurut Nvidia.

Memahami peranan “Scale-In” Nvidia

Istilah rangkaian Nvidia merujuk kepada beberapa lapisan yang berbeza:

Scale-in atau scale-up

NVLink 6 menjadikan 72 GPU dalam satu rak berfungsi seperti komputer berskala besar yang saling berkait rapat. Nvidia menyatakan setiap GPU mendapat sehingga 3.6 TB/s lebar jalur dua hala GPU-ke-GPU, manakala keseluruhan rak mencapai 260 TB/s. 3

Scale-out

Quantum-X800 InfiniBand dan Spectrum-X Ethernet menghubungkan satu rak dengan rak lain bagi membentuk kelompok AI yang lebih besar. 3

Pelepasan tugas data dan infrastruktur

ConnectX-9 SuperNIC dan BlueField-4 DPU mengendalikan sebahagian tugas rangkaian, storan, keselamatan dan laluan data supaya GPU serta CPU boleh memberi tumpuan kepada pengiraan AI. 36

Ringkasnya, scale-in ialah komunikasi berkelajuan tinggi dalam satu domain rak; scale-out ialah penyambungan antara rak; manakala SuperNIC dan DPU membantu memindahkan kerja infrastruktur daripada cip pengiraan utama.

Kerjasama SpaceXAI: dari pusat data ke orbit

Nvidia berkata SpaceXAI akan menggunakan CPU Vera untuk beban kerja AI agen generasi seterusnya. SpaceXAI juga merancang memperluas infrastruktur di sebalik Grok menggunakan Vera Rubin ketika mensasarkan kapasiti pengkomputeran pada skala gigawatt. 10

Kedua-dua pihak turut merancang membawa seni bina itu ke projek pengkomputeran orbit Starmind. Satelit AI Starmind generasi pertama dirancang menggunakan sistem Vera Rubin NVL72 yang diubah suai untuk kegunaan angkasa. 1012

Ini masih merupakan rancangan penggunaan, bukan bukti bahawa pusat data AI orbit telah beroperasi. Sumber yang tersedia juga belum memberikan jadual pelancaran muktamad atau keputusan operasi sebenar di orbit.

Apa maknanya untuk industri pusat data?

Jika dakwaan Nvidia dapat diterjemahkan kepada penggunaan pelanggan sebenar, kelebihan utama Vera Rubin bukan hanya prestasi model yang lebih tinggi. Nilai terbesarnya ialah lebih banyak kerja AI yang berguna bagi setiap megawatt—berpotensi mengurangkan kos elektrik, penyejukan, rangkaian dan modal bagi setiap token yang dijana.

Pada masa sama, Nvidia sedang meluaskan persaingannya daripada GPU kepada CPU Arm tersuai, sistem CPU-GPU koheren, suis berskala rak, DPU dan perisian operasi AI. Integrasi yang lebih ketat ini boleh mengukuhkan kedudukan Nvidia berbanding pesaing GPU serta pengeluar CPU tradisional.

Namun, terdapat pertukaran yang jelas: semakin banyak lapisan pusat data bergantung pada reka bentuk dan perisian Nvidia, semakin besar juga pergantungan pelanggan kepada keseluruhan ekosistem syarikat itu. Dakwaan 30× dan 35×, buat masa ini, perlu difahami sebagai hasil ujian khusus—bukan janji bahawa setiap pusat data atau setiap model AI akan mencapai angka yang sama.

Nvidia mahu Vera Rubin dilihat bukan sekadar generasi GPU yang lebih pantas. Syarikat itu memperkenalkannya sebagai “kilang AI” lengkap pada skala rak—menggabungkan GPU, CPU, rangkaian, unit pemprosesan data dan perisian pengurusan kuasa untuk mengurangkan tenaga serta kos menjalankan beban kerja AI agen (agentic AI).

Namun, angka prestasi paling besar dalam pengumuman ini ialah dakwaan Nvidia berdasarkan penanda aras yang disokong vendor, bukannya pengesahan bebas atau semakan rakan sebaya. 8

Apa yang ada dalam Vera Rubin NVL72?

Vera Rubin NVL72 ialah rak berpenyejukan cecair yang mengandungi:

• 72 GPU Rubin;
• 36 CPU Vera;
• ConnectX-9 SuperNIC untuk rangkaian berkelajuan tinggi;
• BlueField-4 DPU untuk memproses tugas rangkaian, storan dan keselamatan; serta
• suis generasi keenam NVLink.

Konfigurasinya direka supaya 72 GPU boleh berfungsi sebagai satu domain pengkomputeran yang saling berkait rapat. Untuk menyambungkan beberapa rak menjadi kelompok lebih besar, Nvidia menggunakan Quantum-X800 InfiniBand atau Spectrum-X Ethernet. 36

Dakwaan 30× lebih banyak kerja per megawatt

Nvidia mendakwa Vera Rubin NVL72 mampu memberikan sehingga 30× lebih banyak throughput kerja AI agen bagi setiap megawatt berbanding GB300 NVL72. Dalam perbandingan yang sama, kos token didakwa sehingga 35× lebih rendah. 89

Secara berasingan, Nvidia turut mendakwa platform Rubin secara umum boleh mengurangkan kos token inferens sehingga 10× berbanding Blackwell. 11

Maksudnya bukan semata-mata model menghasilkan jawapan lebih pantas. Dalam beban kerja AI agen, sistem mungkin perlu membaca konteks panjang, memanggil alat, menjalankan kod, mendapatkan data, melancarkan subagen dan mengulangi beberapa pusingan pemikiran. Oleh itu, lebih banyak kerja boleh diselesaikan dengan jumlah kuasa pusat data yang sama—sekurang-kurangnya berdasarkan konfigurasi dan senario ujian Nvidia.

AgentX dan DeepSeek V4 Pro menjadi asas perbandingan

Pengukuran tersebut menggunakan penanda aras AgentX oleh SemiAnalysis. AgentX memainkan semula sesi pengekodan AI yang menyerupai penggunaan produksi, termasuk pertumbuhan konteks sebenar, panggilan alat dan pelancaran subagen. Model yang digunakan dalam keputusan yang diketengahkan ialah DeepSeek V4 Pro. 89

Pendekatan ini cuba mengukur prestasi interaktif jangka panjang, bukan sekadar bilangan operasi GPU. Dalam situasi sedemikian, kerja CPU, lebar jalur memori dan kecekapan sambungan antara cip boleh memberi kesan besar terhadap prestasi keseluruhan.

Nvidia juga menekankan sasaran interaksi 160 token sesaat bagi setiap pengguna dalam perbandingan tertentu. 9 Tetapi angka prestasi sebegini bergantung pada model, panjang konteks, tahap interaksi, konfigurasi perkakasan dan sasaran kualiti perkhidmatan.

Bagaimana pula dengan Hopper dan kos bagi sejuta token?

Bahan sumber yang tersedia menyokong perbandingan Vera Rubin dengan GB300, tetapi tidak memberikan angka utama yang boleh dibandingkan secara langsung dengan platform Hopper. Oleh itu, tiada gandaan prestasi Hopper yang tepat dan disahkan boleh dinyatakan berdasarkan bukti ini.

Begitu juga, tiada nilai dolar yang diterbitkan secara jelas untuk “kos bagi setiap satu juta token”. Dakwaan pengurangan kos perlu dibaca sebagai perbandingan kos token dalam beban kerja dan konfigurasi tertentu, bukannya harga universal bagi semua perkhidmatan AI.

AI agen juga menggunakan lebih banyak token berbanding sembang satu pusingan kerana proses penaakulan berulang dan penggunaan alat. Data OpenRouter yang dirujuk Nvidia menyatakan beban kerja AI agen boleh menggunakan kira-kira 15× lebih banyak token berbanding permintaan sembang mudah. Angka ini membantu menjelaskan mengapa kecekapan per megawatt menjadi semakin penting.

DSX MaxLPS: mengejar token per watt, bukan kuasa maksimum

Nvidia turut mengetengahkan DSX, reka bentuk hujung ke hujung untuk “kilang AI” yang merangkumi cip, sistem, perisian, kemudahan pusat data dan teknologi rakan kongsi.

Komponen DSX MaxLPS direka untuk memaksimumkan jumlah token yang diproses bagi setiap unit kuasa, sekali gus menurunkan kos token. Fokusnya bukan sekadar mengendalikan perkakasan pada kuasa seketika yang paling tinggi, tetapi mengagihkan kuasa dengan lebih berkesan merentasi keseluruhan kemudahan. 1215

Pendekatan ini penting apabila kapasiti bekalan elektrik, penyejukan dan had operasi pusat data menjadi kekangan utama. Dalam keadaan sedemikian, sistem yang menghasilkan lebih banyak kerja berguna bagi setiap megawatt mungkin lebih bernilai daripada sistem yang hanya mempunyai prestasi puncak lebih tinggi.

CPU Vera dibina untuk kerja di sekeliling GPU

Nvidia menggambarkan Vera sebagai CPU tersuai serasi Armv9.2 yang dibangunkan untuk era AI agen. Cip ini mempunyai 88 teras Olympus dan 176 utas Spatial Multithreading. 210

CPU tersebut menyokong tugas yang mengelilingi proses inferens, termasuk:

• pemprosesan dan pengambilan data;
• penyelarasan aliran kerja;
• pemanggilan alat;
• pelaksanaan kod dalam persekitaran terasing;
• pengurusan tugas serentak; dan
• simulasi.

Ini mencerminkan perubahan dalam cara beban kerja AI beroperasi. GPU mengendalikan pengiraan model, tetapi CPU perlu memastikan alat, data, kod dan tugas agen bergerak tanpa menjadi titik kesesakan.

Spesifikasi memori dan sambungan CPU-GPU

Vera menggunakan memori LPDDR5X SOCAMM2 dengan lebar jalur agregat sehingga 1.2 TB/s, atau sehingga 14 GB/s bagi setiap teras. Fabric koherensi berskala generasi kedua menghubungkan 88 teras, cache L3 dikongsi dan subsistem memori dengan lebar jalur bisection sehingga 3.4 TB/s. Nvidia menyatakan cip itu mempunyai cache L3 bersatu berkapasiti 164 MB. 78

Bagi perbandingan dengan CPU Grace, Nvidia mendakwa Vera menawarkan:

• 2.4× lebih banyak lebar jalur memori;
• 3× kapasiti memori; dan
• dua kali ganda lebar jalur NVLink-C2C bagi operasi CPU-GPU yang koheren. 1

Dalam platform NVL72, NVLink-C2C pula menyediakan sehingga 1.8 TB/s lebar jalur koheren antara CPU dan GPU—tujuh kali ganda berbanding PCIe Gen6 menurut Nvidia.

Memahami peranan “Scale-In” Nvidia

Istilah rangkaian Nvidia merujuk kepada beberapa lapisan yang berbeza:

Scale-in atau scale-up

NVLink 6 menjadikan 72 GPU dalam satu rak berfungsi seperti komputer berskala besar yang saling berkait rapat. Nvidia menyatakan setiap GPU mendapat sehingga 3.6 TB/s lebar jalur dua hala GPU-ke-GPU, manakala keseluruhan rak mencapai 260 TB/s. 3

Scale-out

Quantum-X800 InfiniBand dan Spectrum-X Ethernet menghubungkan satu rak dengan rak lain bagi membentuk kelompok AI yang lebih besar. 3

Pelepasan tugas data dan infrastruktur

ConnectX-9 SuperNIC dan BlueField-4 DPU mengendalikan sebahagian tugas rangkaian, storan, keselamatan dan laluan data supaya GPU serta CPU boleh memberi tumpuan kepada pengiraan AI. 36

Ringkasnya, scale-in ialah komunikasi berkelajuan tinggi dalam satu domain rak; scale-out ialah penyambungan antara rak; manakala SuperNIC dan DPU membantu memindahkan kerja infrastruktur daripada cip pengiraan utama.

Kerjasama SpaceXAI: dari pusat data ke orbit

Nvidia berkata SpaceXAI akan menggunakan CPU Vera untuk beban kerja AI agen generasi seterusnya. SpaceXAI juga merancang memperluas infrastruktur di sebalik Grok menggunakan Vera Rubin ketika mensasarkan kapasiti pengkomputeran pada skala gigawatt. 10

Kedua-dua pihak turut merancang membawa seni bina itu ke projek pengkomputeran orbit Starmind. Satelit AI Starmind generasi pertama dirancang menggunakan sistem Vera Rubin NVL72 yang diubah suai untuk kegunaan angkasa. 1012

Ini masih merupakan rancangan penggunaan, bukan bukti bahawa pusat data AI orbit telah beroperasi. Sumber yang tersedia juga belum memberikan jadual pelancaran muktamad atau keputusan operasi sebenar di orbit.

Apa maknanya untuk industri pusat data?

Jika dakwaan Nvidia dapat diterjemahkan kepada penggunaan pelanggan sebenar, kelebihan utama Vera Rubin bukan hanya prestasi model yang lebih tinggi. Nilai terbesarnya ialah lebih banyak kerja AI yang berguna bagi setiap megawatt—berpotensi mengurangkan kos elektrik, penyejukan, rangkaian dan modal bagi setiap token yang dijana.

Pada masa sama, Nvidia sedang meluaskan persaingannya daripada GPU kepada CPU Arm tersuai, sistem CPU-GPU koheren, suis berskala rak, DPU dan perisian operasi AI. Integrasi yang lebih ketat ini boleh mengukuhkan kedudukan Nvidia berbanding pesaing GPU serta pengeluar CPU tradisional.

Namun, terdapat pertukaran yang jelas: semakin banyak lapisan pusat data bergantung pada reka bentuk dan perisian Nvidia, semakin besar juga pergantungan pelanggan kepada keseluruhan ekosistem syarikat itu. Dakwaan 30× dan 35×, buat masa ini, perlu difahami sebagai hasil ujian khusus—bukan janji bahawa setiap pusat data atau setiap model AI akan mencapai angka yang sama.