De hardware: Nvidia GB300 NVL72 van HPE

Vultr gaat het Nvidia GB300 NVL72-systeem inzetten, gebouwd door HPE. Dit rack-scale systeem combineert Nvidia Blackwell Ultra GPU’s met Nvidia Grace CPU’s in een 72-GPU NVLink-domein . De specificaties zijn indrukwekkend:

• AI-prestaties: tot 1.440 PFLOPS FP4-AI-prestaties .
• Geheugen: 279 GB HBM3e per GPU (37 TB totaal over het rack), met 8 TB/s geheugenbandbreedte per GPU .
• Architectuur: geoptimaliseerd voor het trainen, finetunen en real-time inferentie van AI-modellen met meer dan 1 biljoen parameters .
• Koeling: volledig vloeistofgekoeld, geïntegreerd in HPE’s AI-factory-architectuur .

De GB300 NVL72 wordt omschreven als het nieuwe werkpaard voor zowel inference als training, met een expliciete focus op kosten per token. Dit weerspiegelt de verschuiving in de sector naar het op schaal inzetten van AI-modellen voor real-time toepassingen . Volgens Nvidia levert het systeem 1,5x meer dichte FP4 Tensor Core FLOPS en 2x hogere attention-prestaties dan Nvidia Blackwell GPU’s .

Hoge bandbreedte-netwerken: de ruggengraat van AI-inference

Hoogwaardige netwerken vormen een fundamentele pijler van de implementatie. De Nvidia GB300 NVL72-systemen worden verbonden via Nvidia Spectrum-X Ethernet-netwerken, een verliesvrij, hoogwaardig Ethernet-fabric dat knelpunten in multi-node AI-workloads elimineert .

De implementatie omvat 400GbE- en 800GbE-interconnects, optische transceivers, Nvidia Spectrum-X Ethernet-switches en SuperNIC’s . Zonder dit fabric zou het opschalen van inference naar enterprise-niveau leiden tot verlammende latentie- en bandbreedteproblemen. De Nvidia Enterprise Reference Architecture voor de NVL72 AI Factory bevestigt dat deze dual-plane-netwerkarchitectuur is ontworpen om enterprise-datacenters te voeden voor AI-training en -inference op enorme schaal, met real-time toepassingen en modellen van een biljoen parameters .

Strategische verschuiving: van training naar inference

Hoewel de infrastructuur zowel training als inference ondersteunt , legt de aankondiging een groeiende focus van bedrijven op AI-inference (productie-implementatie) naast training. Verschillende signalen wijzen op deze verschuiving:

• De GB300 NVL72 is specifiek gebouwd voor test-time scaling-inference en AI-reasoning-taken .
• Het systeem wordt expliciet gepositioneerd met een kosten-per-token-verhaal, waarbij de waarde wordt gemeten in inference-output in plaats van ruwe trainingsdoorvoer .
• HPE’s bredere boodschap op het evenement richtte zich op het in productie brengen van AI met security, governance, schaalbaarheid en soevereiniteit .

De implicatie is duidelijk: bedrijven zijn voorbij de experimenteerfase en zoeken nu infrastructuur die is geoptimaliseerd voor het op schaal inzetten van AI-modellen in productieomgevingen.

Andere aankondigingen op HPE Discover Las Vegas 2026

Naast het Vultr-partnerschap belichtte HPE verschillende gerelateerde initiatieven:

• Agentic AI-push: HPE kondigde een breder initiatief aan om agentic AI in productie te brengen met Nvidia, met nadruk op security, governance, schaalbaarheid en soevereiniteit .
• Klantimplementaties: S k y Co., Ltd. implementeerde HPE Private Cloud AI als onderdeel van de Nvidia AI Computing by HPE-portfolio .
• Nubax in Argentinië: Het bedrijf lanceerde een consumption-based AI-as-a-service-model, met 62,5% betere supply chain-voorspellingen, 35% kortere wachttijden en 40% kostenbesparing, aangedreven door Nvidia AI Computing by HPE .

Wat dit betekent voor zakelijke AI

Vultr’s keuze voor HPE en Nvidia markeert een belangrijk kantelpunt. Als grootste private hyperscaler gokt Vultr erop dat bedrijven infrastructuur nodig hebben die zowel training als real-time inference op cloudschaal aankan. Door Nvidia’s rack-scale-GPU-computing te combineren met HPE’s factory-architectuur, vloeistofkoeling en diensten, positioneert Vultr zich om de volgende golf van enterprise AI-workloads te bedienen – van modeltraining tot productie-inferentie op modellen met biljoenen parameters.

De hardware: Nvidia GB300 NVL72 van HPE

Vultr gaat het Nvidia GB300 NVL72-systeem inzetten, gebouwd door HPE. Dit rack-scale systeem combineert Nvidia Blackwell Ultra GPU’s met Nvidia Grace CPU’s in een 72-GPU NVLink-domein . De specificaties zijn indrukwekkend:

• AI-prestaties: tot 1.440 PFLOPS FP4-AI-prestaties .
• Geheugen: 279 GB HBM3e per GPU (37 TB totaal over het rack), met 8 TB/s geheugenbandbreedte per GPU .
• Architectuur: geoptimaliseerd voor het trainen, finetunen en real-time inferentie van AI-modellen met meer dan 1 biljoen parameters .
• Koeling: volledig vloeistofgekoeld, geïntegreerd in HPE’s AI-factory-architectuur .

De GB300 NVL72 wordt omschreven als het nieuwe werkpaard voor zowel inference als training, met een expliciete focus op kosten per token. Dit weerspiegelt de verschuiving in de sector naar het op schaal inzetten van AI-modellen voor real-time toepassingen . Volgens Nvidia levert het systeem 1,5x meer dichte FP4 Tensor Core FLOPS en 2x hogere attention-prestaties dan Nvidia Blackwell GPU’s .

Hoge bandbreedte-netwerken: de ruggengraat van AI-inference

Hoogwaardige netwerken vormen een fundamentele pijler van de implementatie. De Nvidia GB300 NVL72-systemen worden verbonden via Nvidia Spectrum-X Ethernet-netwerken, een verliesvrij, hoogwaardig Ethernet-fabric dat knelpunten in multi-node AI-workloads elimineert .

De implementatie omvat 400GbE- en 800GbE-interconnects, optische transceivers, Nvidia Spectrum-X Ethernet-switches en SuperNIC’s . Zonder dit fabric zou het opschalen van inference naar enterprise-niveau leiden tot verlammende latentie- en bandbreedteproblemen. De Nvidia Enterprise Reference Architecture voor de NVL72 AI Factory bevestigt dat deze dual-plane-netwerkarchitectuur is ontworpen om enterprise-datacenters te voeden voor AI-training en -inference op enorme schaal, met real-time toepassingen en modellen van een biljoen parameters .

Strategische verschuiving: van training naar inference

Hoewel de infrastructuur zowel training als inference ondersteunt , legt de aankondiging een groeiende focus van bedrijven op AI-inference (productie-implementatie) naast training. Verschillende signalen wijzen op deze verschuiving:

• De GB300 NVL72 is specifiek gebouwd voor test-time scaling-inference en AI-reasoning-taken .
• Het systeem wordt expliciet gepositioneerd met een kosten-per-token-verhaal, waarbij de waarde wordt gemeten in inference-output in plaats van ruwe trainingsdoorvoer .
• HPE’s bredere boodschap op het evenement richtte zich op het in productie brengen van AI met security, governance, schaalbaarheid en soevereiniteit .

De implicatie is duidelijk: bedrijven zijn voorbij de experimenteerfase en zoeken nu infrastructuur die is geoptimaliseerd voor het op schaal inzetten van AI-modellen in productieomgevingen.

Andere aankondigingen op HPE Discover Las Vegas 2026

Naast het Vultr-partnerschap belichtte HPE verschillende gerelateerde initiatieven:

• Agentic AI-push: HPE kondigde een breder initiatief aan om agentic AI in productie te brengen met Nvidia, met nadruk op security, governance, schaalbaarheid en soevereiniteit .
• Klantimplementaties: S k y Co., Ltd. implementeerde HPE Private Cloud AI als onderdeel van de Nvidia AI Computing by HPE-portfolio .
• Nubax in Argentinië: Het bedrijf lanceerde een consumption-based AI-as-a-service-model, met 62,5% betere supply chain-voorspellingen, 35% kortere wachttijden en 40% kostenbesparing, aangedreven door Nvidia AI Computing by HPE .

Wat dit betekent voor zakelijke AI

Vultr’s keuze voor HPE en Nvidia markeert een belangrijk kantelpunt. Als grootste private hyperscaler gokt Vultr erop dat bedrijven infrastructuur nodig hebben die zowel training als real-time inference op cloudschaal aankan. Door Nvidia’s rack-scale-GPU-computing te combineren met HPE’s factory-architectuur, vloeistofkoeling en diensten, positioneert Vultr zich om de volgende golf van enterprise AI-workloads te bedienen – van modeltraining tot productie-inferentie op modellen met biljoenen parameters.