Hardwaren: NVIDIA GB300 NVL72 fra HPE

Vultr vil implementere NVIDIA GB300 NVL72-systemet, bygget af HPE, som kernen i deres næste generations AI-infrastruktur. Denne rack-skala-arkitektur kombinerer NVIDIA Blackwell Ultra GPU'er med NVIDIA Grace CPU'er i ét 72-GPU NVLink-domæne . Specifikationerne er imponerende:

• AI-ydelse: Op til 1.440 PFLOPS FP4 AI-ydelse
• Hukommelse: 279 GB HBM3e-hukommelse per GPU (37 TB i alt på tværs af racket) med en båndbredde på 8 TB/s per GPU
• Arkitektur: Optimeret til træning, finjustering og realtidsinferens af store AI-modeller med over 1 billion parametre
• Køling: Fuldstændig væskekølet design integreret i HPE's AI-fabriksarkitektur

GB300 NVL72 beskrives som den "nye inferens-/træningsarbejdshest" med et eksplicit fokus på omkostninger per token, hvilket afspejler industriens drejning mod at operationalisere AI-modeller i stor skala til realtidsapplikationer . Ifølge NVIDIA's produktside leverer den 1,5 gange flere tætte FP4 Tensor Core FLOPS og 2 gange højere attention-ydelse sammenlignet med NVIDIA Blackwell GPU'er .

Højhastigheds-netværk: rygraden i AI-inferens

Højhastigheds-netværk er en grundlæggende søjle i udrulningen. NVIDIA GB300 NVL72-systemerne forbindes via NVIDIA Spectrum-X Ethernet-netværk – en tabsfri Ethernet-fabric med høj gennemstrømning, designet til at eliminere flaskehalse i multi-node AI-workloads .

Udrulningen inkluderer 400GbE- og 800GbE-interconnect, optiske transceivere, NVIDIA Spectrum-X Ethernet-switches og SuperNIC'er . Uden denne fabric ville skalering af inferens til enterprise-gennemstrømning skabe alvorlige latens- og båndbreddeproblemer. NVIDIA Enterprise Reference Architecture for NVL72 AI Factory bekræfter, at denne dual-plane-netværksarkitektur er designet til at drive virksomhedsdatacentre til AI-træning og inferens i massiv skala, hvilket muliggør realtidsapplikationer og trillion-parameter-modeller .

Strategisk skift: Fra træning til inferens

Selvom infrastrukturen understøtter både træning og inferens , lægger annonceringen vægt på en voksende tendens: AI-inferens (produktionsimplementering) bliver lige så vigtig som træning. Flere signaler peger på dette skift:

• GB300 NVL72 er specifikt bygget til "test-time scaling inference and AI reasoning tasks"
• Den positioneres eksplicit med et cost-per-token-fokus, hvor værdien måles i inferens-output snarere end rå træningsgennemstrømning
• HPE's overordnede budskab på konferencen handlede om at bringe AI i produktion med sikkerhed, styring, skala og suverænitet

Implikationen er klar: Virksomhederne er gået fra eksperimenteringsfasen og søger nu infrastruktur optimeret til at implementere AI-modeller i stor skala i produktionsmiljøer.

Andre annonceringer på HPE Discover Las Vegas 2026

Ud over Vultr-partnerskabet fremhævede HPE flere relaterede initiativer:

• Agentic AI-satsning: HPE annoncerede et bredere initiativ til at bringe agentisk AI i produktion med NVIDIA med fokus på sikkerhed, styring, skala og suverænitet
• Kundeimplementeringer: S k y Co., Ltd. implementerede HPE Private Cloud AI som en del af NVIDIA AI Computing by HPE-porteføljen
• Nubax i Argentina: Virksomheden lancerede en forbrugsbaseret AI-as-a-service-model, der leverer 62,5 % bedre forsyningskædeprognoser, 35 % kortere ventetider og 40 % omkostningsbesparelser, drevet af NVIDIA AI Computing by HPE

Hvad betyder det for virksomhedernes AI?

Vultrs valg af HPE og NVIDIA markerer et stort vendepunkt. Som den største privatejede hyperscaler satser Vultr på, at virksomheder har brug for infrastruktur, der kan håndtere både træning og realtidsinferens i cloud-skala. Ved at kombinere NVIDIA's rack-skala GPU-computing med HPE's fabriksarkitektur, væskekøling og services positionerer Vultr sig til at betjene den næste bølge af enterprise AI-workloads – fra modeltræning til produktionsinferens på trillion-parameter-modeller.

Hardwaren: NVIDIA GB300 NVL72 fra HPE

Vultr vil implementere NVIDIA GB300 NVL72-systemet, bygget af HPE, som kernen i deres næste generations AI-infrastruktur. Denne rack-skala-arkitektur kombinerer NVIDIA Blackwell Ultra GPU'er med NVIDIA Grace CPU'er i ét 72-GPU NVLink-domæne . Specifikationerne er imponerende:

• AI-ydelse: Op til 1.440 PFLOPS FP4 AI-ydelse
• Hukommelse: 279 GB HBM3e-hukommelse per GPU (37 TB i alt på tværs af racket) med en båndbredde på 8 TB/s per GPU
• Arkitektur: Optimeret til træning, finjustering og realtidsinferens af store AI-modeller med over 1 billion parametre
• Køling: Fuldstændig væskekølet design integreret i HPE's AI-fabriksarkitektur

GB300 NVL72 beskrives som den "nye inferens-/træningsarbejdshest" med et eksplicit fokus på omkostninger per token, hvilket afspejler industriens drejning mod at operationalisere AI-modeller i stor skala til realtidsapplikationer . Ifølge NVIDIA's produktside leverer den 1,5 gange flere tætte FP4 Tensor Core FLOPS og 2 gange højere attention-ydelse sammenlignet med NVIDIA Blackwell GPU'er .

Højhastigheds-netværk: rygraden i AI-inferens

Højhastigheds-netværk er en grundlæggende søjle i udrulningen. NVIDIA GB300 NVL72-systemerne forbindes via NVIDIA Spectrum-X Ethernet-netværk – en tabsfri Ethernet-fabric med høj gennemstrømning, designet til at eliminere flaskehalse i multi-node AI-workloads .

Udrulningen inkluderer 400GbE- og 800GbE-interconnect, optiske transceivere, NVIDIA Spectrum-X Ethernet-switches og SuperNIC'er . Uden denne fabric ville skalering af inferens til enterprise-gennemstrømning skabe alvorlige latens- og båndbreddeproblemer. NVIDIA Enterprise Reference Architecture for NVL72 AI Factory bekræfter, at denne dual-plane-netværksarkitektur er designet til at drive virksomhedsdatacentre til AI-træning og inferens i massiv skala, hvilket muliggør realtidsapplikationer og trillion-parameter-modeller .

Strategisk skift: Fra træning til inferens

Selvom infrastrukturen understøtter både træning og inferens , lægger annonceringen vægt på en voksende tendens: AI-inferens (produktionsimplementering) bliver lige så vigtig som træning. Flere signaler peger på dette skift:

• GB300 NVL72 er specifikt bygget til "test-time scaling inference and AI reasoning tasks"
• Den positioneres eksplicit med et cost-per-token-fokus, hvor værdien måles i inferens-output snarere end rå træningsgennemstrømning
• HPE's overordnede budskab på konferencen handlede om at bringe AI i produktion med sikkerhed, styring, skala og suverænitet

Implikationen er klar: Virksomhederne er gået fra eksperimenteringsfasen og søger nu infrastruktur optimeret til at implementere AI-modeller i stor skala i produktionsmiljøer.

Andre annonceringer på HPE Discover Las Vegas 2026

Ud over Vultr-partnerskabet fremhævede HPE flere relaterede initiativer:

• Agentic AI-satsning: HPE annoncerede et bredere initiativ til at bringe agentisk AI i produktion med NVIDIA med fokus på sikkerhed, styring, skala og suverænitet
• Kundeimplementeringer: S k y Co., Ltd. implementerede HPE Private Cloud AI som en del af NVIDIA AI Computing by HPE-porteføljen
• Nubax i Argentina: Virksomheden lancerede en forbrugsbaseret AI-as-a-service-model, der leverer 62,5 % bedre forsyningskædeprognoser, 35 % kortere ventetider og 40 % omkostningsbesparelser, drevet af NVIDIA AI Computing by HPE

Hvad betyder det for virksomhedernes AI?

Vultrs valg af HPE og NVIDIA markerer et stort vendepunkt. Som den største privatejede hyperscaler satser Vultr på, at virksomheder har brug for infrastruktur, der kan håndtere både træning og realtidsinferens i cloud-skala. Ved at kombinere NVIDIA's rack-skala GPU-computing med HPE's fabriksarkitektur, væskekøling og services positionerer Vultr sig til at betjene den næste bølge af enterprise AI-workloads – fra modeltræning til produktionsinferens på trillion-parameter-modeller.