Perangkat Keras: NVIDIA GB300 NVL72 oleh HPE

Vultr akan menggunakan sistem NVIDIA GB300 NVL72 racikan HPE sebagai inti dari infrastruktur AI generasi terbarunya. Arsitektur rack-scale ini menggabungkan GPU NVIDIA Blackwell Ultra dengan CPU NVIDIA Grace dalam satu domain NVLink 72-GPU . Spesifikasinya sangat mengesankan:

• Performa AI: Hingga 1.440 PFLOPS performa AI FP4
• Memori: 279 GB memori HBM3e per GPU (total 37 TB dalam satu rak), dengan bandwidth memori 8 TB/s per GPU
• Arsitektur: Dioptimalkan untuk pelatihan model AI besar, fine-tuning, dan inferensi real-time untuk model dengan lebih dari 1 triliun parameter
• Pendinginan: Desain liquid-cooled penuh yang terintegrasi ke dalam arsitektur AI factory HPE

GB300 NVL72 digambarkan sebagai "kuda beban inferensi/pelatihan baru" dengan narasi biaya per token (cost-per-token) yang eksplisit, mencerminkan pergeseran industri menuju pengoperasian model AI dalam skala besar untuk aplikasi real-time . Menurut halaman produk NVIDIA, sistem ini memberikan 1,5x lebih banyak FP4 Tensor Core FLOPS dan 2x performa perhatian (attention) yang lebih tinggi dibandingkan GPU NVIDIA Blackwell .

Jaringan Berkecepatan Tinggi: Tulang Punggung Inferensi AI

Jaringan berkecepatan tinggi adalah pilar fundamental dari penerapan ini. Sistem NVIDIA GB300 NVL72 saling terhubung menggunakan NVIDIA Spectrum-X Ethernet networking, sebuah kain Ethernet lossless dan high-throughput yang dirancang untuk menghilangkan kemacetan dalam beban kerja AI multi-node .

Penerapannya mencakup interkoneksi 400GbE dan 800GbE, transceiver optik, switch Ethernet NVIDIA Spectrum-X, dan SuperNIC . Tanpa kain ini, penskalaan inferensi hingga throughput tingkat enterprise akan menimbulkan latensi dan kemacetan bandwidth yang melumpuhkan. Arsitektur Referensi Perusahaan NVIDIA untuk AI Factory NVL72 mengonfirmasi bahwa arsitektur jaringan dual-plane ini dirancang untuk memberi daya pada pusat data perusahaan untuk pelatihan dan inferensi AI dalam skala besar, memungkinkan aplikasi real-time dan model dengan triliunan parameter .

Pergeseran Strategis: Dari Pelatihan ke Inferensi

Meskipun infrastruktur ini mendukung pelatihan dan inferensi , pengumuman ini menekankan fokus enterprise yang semakin besar pada inferensi AI (penerapan produksi) di samping pelatihan. Beberapa sinyal menunjukkan pergeseran ini:

• GB300 NVL72 dibuat khusus untuk "inferensi penskalaan waktu pengujian dan tugas penalaran AI"
• Secara eksplisit diposisikan dengan narasi biaya per token, mengukur nilai dalam output inferensi, bukan throughput pelatihan mentah
• Pesan yang lebih luas dari HPE di acara tersebut berfokus pada membawa AI ke dalam produksi dengan keamanan, tata kelola, skala, dan kedaulatan data

Implikasinya jelas: perusahaan telah melewati fase eksperimen dan sekarang mencari infrastruktur yang dioptimalkan untuk menerapkan model AI dalam skala besar di lingkungan produksi.

Pengumuman Lain di HPE Discover Las Vegas 2026

Di luar kemitraan dengan Vultr, HPE menyoroti beberapa inisiatif terkait:

• Dorongan AI Agenik: HPE mengumumkan inisiatif yang lebih luas untuk membawa AI agenik ke dalam produksi dengan NVIDIA, dengan penekanan pada keamanan, tata kelola, skala, dan kedaulatan data
• Penerapan pelanggan: S k y Co., Ltd. menerapkan HPE Private Cloud AI sebagai bagian dari portofolio NVIDIA AI Computing by HPE
• Nubax di Argentina: Perusahaan ini meluncurkan model AI-as-a-service berbasis konsumsi, memberikan perkiraan rantai pasok 62,5% lebih baik, waktu tunggu 35% lebih singkat, dan penghematan biaya 40%, didukung oleh NVIDIA AI Computing by HPE

Apa Artinya bagi AI Enterprise

Pilihan Vultr terhadap HPE dan NVIDIA menandai titik infleksi yang signifikan. Sebagai hyperscaler swasta terbesar, Vultr bertaruh bahwa pelanggan enterprise membutuhkan infrastruktur yang dapat menangani pelatihan dan inferensi real-time dalam skala cloud. Dengan menggabungkan komputasi GPU rack-scale NVIDIA dengan arsitektur pabrik, pendinginan cair, dan layanan HPE, Vultr memposisikan dirinya untuk melayani gelombang berikutnya dari beban kerja AI enterprise—dari pelatihan model hingga inferensi produksi pada model dengan triliunan parameter.

Perangkat Keras: NVIDIA GB300 NVL72 oleh HPE

Vultr akan menggunakan sistem NVIDIA GB300 NVL72 racikan HPE sebagai inti dari infrastruktur AI generasi terbarunya. Arsitektur rack-scale ini menggabungkan GPU NVIDIA Blackwell Ultra dengan CPU NVIDIA Grace dalam satu domain NVLink 72-GPU . Spesifikasinya sangat mengesankan:

• Performa AI: Hingga 1.440 PFLOPS performa AI FP4
• Memori: 279 GB memori HBM3e per GPU (total 37 TB dalam satu rak), dengan bandwidth memori 8 TB/s per GPU
• Arsitektur: Dioptimalkan untuk pelatihan model AI besar, fine-tuning, dan inferensi real-time untuk model dengan lebih dari 1 triliun parameter
• Pendinginan: Desain liquid-cooled penuh yang terintegrasi ke dalam arsitektur AI factory HPE

GB300 NVL72 digambarkan sebagai "kuda beban inferensi/pelatihan baru" dengan narasi biaya per token (cost-per-token) yang eksplisit, mencerminkan pergeseran industri menuju pengoperasian model AI dalam skala besar untuk aplikasi real-time . Menurut halaman produk NVIDIA, sistem ini memberikan 1,5x lebih banyak FP4 Tensor Core FLOPS dan 2x performa perhatian (attention) yang lebih tinggi dibandingkan GPU NVIDIA Blackwell .

Jaringan Berkecepatan Tinggi: Tulang Punggung Inferensi AI

Jaringan berkecepatan tinggi adalah pilar fundamental dari penerapan ini. Sistem NVIDIA GB300 NVL72 saling terhubung menggunakan NVIDIA Spectrum-X Ethernet networking, sebuah kain Ethernet lossless dan high-throughput yang dirancang untuk menghilangkan kemacetan dalam beban kerja AI multi-node .

Penerapannya mencakup interkoneksi 400GbE dan 800GbE, transceiver optik, switch Ethernet NVIDIA Spectrum-X, dan SuperNIC . Tanpa kain ini, penskalaan inferensi hingga throughput tingkat enterprise akan menimbulkan latensi dan kemacetan bandwidth yang melumpuhkan. Arsitektur Referensi Perusahaan NVIDIA untuk AI Factory NVL72 mengonfirmasi bahwa arsitektur jaringan dual-plane ini dirancang untuk memberi daya pada pusat data perusahaan untuk pelatihan dan inferensi AI dalam skala besar, memungkinkan aplikasi real-time dan model dengan triliunan parameter .

Pergeseran Strategis: Dari Pelatihan ke Inferensi

Meskipun infrastruktur ini mendukung pelatihan dan inferensi , pengumuman ini menekankan fokus enterprise yang semakin besar pada inferensi AI (penerapan produksi) di samping pelatihan. Beberapa sinyal menunjukkan pergeseran ini:

• GB300 NVL72 dibuat khusus untuk "inferensi penskalaan waktu pengujian dan tugas penalaran AI"
• Secara eksplisit diposisikan dengan narasi biaya per token, mengukur nilai dalam output inferensi, bukan throughput pelatihan mentah
• Pesan yang lebih luas dari HPE di acara tersebut berfokus pada membawa AI ke dalam produksi dengan keamanan, tata kelola, skala, dan kedaulatan data

Implikasinya jelas: perusahaan telah melewati fase eksperimen dan sekarang mencari infrastruktur yang dioptimalkan untuk menerapkan model AI dalam skala besar di lingkungan produksi.

Pengumuman Lain di HPE Discover Las Vegas 2026

Di luar kemitraan dengan Vultr, HPE menyoroti beberapa inisiatif terkait:

• Dorongan AI Agenik: HPE mengumumkan inisiatif yang lebih luas untuk membawa AI agenik ke dalam produksi dengan NVIDIA, dengan penekanan pada keamanan, tata kelola, skala, dan kedaulatan data
• Penerapan pelanggan: S k y Co., Ltd. menerapkan HPE Private Cloud AI sebagai bagian dari portofolio NVIDIA AI Computing by HPE
• Nubax di Argentina: Perusahaan ini meluncurkan model AI-as-a-service berbasis konsumsi, memberikan perkiraan rantai pasok 62,5% lebih baik, waktu tunggu 35% lebih singkat, dan penghematan biaya 40%, didukung oleh NVIDIA AI Computing by HPE

Apa Artinya bagi AI Enterprise

Pilihan Vultr terhadap HPE dan NVIDIA menandai titik infleksi yang signifikan. Sebagai hyperscaler swasta terbesar, Vultr bertaruh bahwa pelanggan enterprise membutuhkan infrastruktur yang dapat menangani pelatihan dan inferensi real-time dalam skala cloud. Dengan menggabungkan komputasi GPU rack-scale NVIDIA dengan arsitektur pabrik, pendinginan cair, dan layanan HPE, Vultr memposisikan dirinya untuk melayani gelombang berikutnya dari beban kerja AI enterprise—dari pelatihan model hingga inferensi produksi pada model dengan triliunan parameter.