Vultr, HPE, dan NVIDIA: Di Sebalik Pusat Data AI Generasi Baharu di HPE Discover 2026

• Prestasi AI: Sehingga 1,440 PFLOPS prestasi AI FP4
• Memori: 279 GB memori HBM3e setiap GPU (37 TB jumlah merentasi rak), dengan lebar jalur memori 8 TB/s setiap GPU
• Seni Bina: Dioptimumkan untuk latihan model AI besar, penalaan halus, dan inferens masa nyata untuk model melebihi 1 trilion parameter
• Penyejukan: Reka bentuk penyejukan cecair sepenuhnya yang diintegrasikan ke dalam seni bina kilang AI HPE

GB300 NVL72 digambarkan sebagai "kuda kerja inferens/latihan" baharu dengan naratif kos-per-token yang eksplisit, mencerminkan peralihan industri ke arah mengoperasikan model AI pada skala untuk aplikasi masa nyata . Menurut halaman produk NVIDIA, ia memberikan 1.5x lebih banyak FP4 Tensor Core FLOPS dan 2x prestasi perhatian yang lebih tinggi berbanding GPU NVIDIA Blackwell .

Rangkaian Jalur Lebar Tinggi: Tulang Belakang Inferens AI

Rangkaian berjalur lebar tinggi merupakan tiang asas penggunaan ini. Sistem NVIDIA GB300 NVL72 disambungkan menggunakan rangkaian Ethernet NVIDIA Spectrum-X, fabrik Ethernet tanpa kehilangan dan pemprosesan tinggi yang direka untuk menghapuskan kesesakan dalam beban kerja AI berbilang nod .

Penggunaan ini menampilkan antara sambungan 400GbE dan 800GbE, transceiver optik, suis Ethernet NVIDIA Spectrum-X, dan SuperNIC . Tanpa fabrik ini, penskalaan inferens kepada pemprosesan perusahaan akan menyebabkan kependaman dan kesesakan lebar jalur yang teruk. Seni Bina Rujukan Perusahaan NVIDIA untuk Kilang AI NVL72 mengesahkan bahawa seni bina rangkaian dwi-bidang ini direka untuk menggerakkan pusat data perusahaan untuk latihan dan inferens AI pada skala besar, membolehkan aplikasi masa nyata dan model trilion-parameter .

Peralihan Strategik: Daripada Latihan kepada Inferens

Walaupun infrastruktur ini menyokong kedua-dua latihan dan inferens , pengumuman ini menekankan tumpuan perusahaan yang semakin meningkat terhadap inferens AI (penggunaan pengeluaran) di samping latihan. Beberapa isyarat menunjukkan peralihan ini:

• GB300 NVL72 direka khas untuk "inferens penskalaan ujian-masa dan tugas penaakulan AI"
• Ia diposisikan secara eksplisit dengan naratif kos-per-token, mengukur nilai dalam output inferens dan bukannya pemprosesan latihan mentah
• Mesej HPE yang lebih luas di acara itu memfokuskan kepada membawa AI ke dalam pengeluaran dengan keselamatan, tadbir urus, skala, dan kedaulatan

Implikasinya jelas: perusahaan telah melepasi fasa eksperimen dan kini mencari infrastruktur yang dioptimumkan untuk menggunakan model AI pada skala dalam persekitaran pengeluaran.

Pengumuman Lain di HPE Discover Las Vegas 2026

Di luar perkongsian Vultr, HPE menyerlahkan beberapa inisiatif berkaitan:

• Deklarasi AI Agen: HPE mengumumkan inisiatif yang lebih luas untuk membawa AI agen ke dalam pengeluaran dengan NVIDIA, menekankan keselamatan, tadbir urus, skala, dan kedaulatan
• Penggunaan Pelanggan: S k y Co., Ltd. menggunakan HPE Private Cloud AI sebagai sebahagian daripada portfolio NVIDIA AI Computing by HPE
• Nubax di Argentina: Syarikat itu melancarkan model AI-sebagai-perkhidmatan berasaskan penggunaan, memberikan ramalan rantaian bekalan 62.5% lebih baik, masa menunggu 35% lebih singkat, dan penjimatan kos 40%, dikuasakan oleh NVIDIA AI Computing by HPE

Maksudnya untuk AI Perusahaan

Pilihan Vultr terhadap HPE dan NVIDIA menandakan titik perubahan utama. Sebagai penyedia hiperskala swasta terbesar, Vultr bertaruh bahawa pelanggan perusahaan memerlukan infrastruktur yang dapat mengendalikan kedua-dua latihan dan inferens masa nyata pada skala awan. Dengan menggabungkan pengkomputeran GPU berskala rak NVIDIA dengan seni bina kilang, penyejukan cecair, dan perkhidmatan HPE, Vultr memposisikan dirinya untuk melayani gelombang seterusnya beban kerja AI perusahaan—daripada latihan model kepada inferens pengeluaran pada model trilion-parameter.