Hårdvaran: NVIDIA GB300 NVL72 av HPE

Vultr kommer att installera NVIDIA GB300 NVL72-systemet, byggt av HPE, som kärnan i sin nästa generations AI-infrastruktur. Denna rack-skala-arkitektur kombinerar NVIDIA Blackwell Ultra GPU:er med NVIDIA Grace CPU:er i en 72-GPU NVLink-domän . Specifikationerna är imponerande:

• AI-prestanda: Upp till 1 440 PFLOPS FP4 AI-prestanda
• Minne: 279 GB HBM3e-minne per GPU (37 TB totalt i racket), med 8 TB/s minnesbandbredd per GPU
• Arkitektur: Optimerad för träning, finjustering och realtidsinferens av stora AI-modeller med över 1 biljon parametrar
• Kylning: Helt flytandekyld design integrerad i HPE:s AI-fabriksarkitektur

GB300 NVL72 beskrivs som den nya ”inferens-/träningsarbetshästen” med ett uttalat cost-per-token-perspektiv, vilket speglar branschens skifte mot att operationalisera AI-modeller för realtidsapplikationer i stor skala . Enligt NVIDIA:s produktsida levererar den 1,5 gånger fler täta FP4 Tensor Core FLOPS och 2 gånger högre attention-prestanda jämfört med NVIDIA Blackwell GPU:er .

Höghastighetsnätverk: Ryggraden i AI-inferens

Höghastighetsnätverk är en grundläggande pelare i utbyggnaden. NVIDIA GB300 NVL72-systemen kopplas samman med NVIDIA Spectrum-X Ethernet-nätverk, en förlustfri, högenomströmnings Ethernet-fabric som är utformad för att eliminera flaskhalsar i AI-arbetsbelastningar över flera noder .

Installationen använder 400GbE- och 800GbE-interconnects, optiska sändtagare, NVIDIA Spectrum-X Ethernet-switchar och SuperNIC:er . Utan denna fabric skulle skalning av inferens till företagsgenomströmning skapa förlamande latens- och bandbreddsflaskhalsar. NVIDIA Enterprise Reference Architecture för NVL72 AI Factory bekräftar att denna dubbelplansnätverksarkitektur är utformad för att driva företagsdatacenter för AI-träning och inferens i massiv skala, vilket möjliggör realtidsapplikationer och modeller med biljoner parametrar .

Strategiskt skifte: Från träning till inferens

Även om infrastrukturen stöder både träning och inferens , lägger tillkännagivandet tonvikt på ett växande fokus hos företag på AI-inferens (produktionsdistribution) vid sidan av träning. Flera signaler pekar på detta skifte:

• GB300 NVL72 är byggd för ”test-time scaling inference och AI-reasoning-uppgifter”
• Den positioneras uttryckligen med ett cost-per-token-perspektiv, där värdet mäts i inferensoutput snarare än rå träningsgenomströmning
• HPE:s övergripande budskap på evenemanget fokuserade på att föra AI i produktion med säkerhet, styrning, skalbarhet och suveränitet

Implikationen är tydlig: företag har gått från experimenteringsfasen och söker nu infrastruktur optimerad för att distribuera AI-modeller i stor skala i produktionsmiljöer.

Andra tillkännagivanden på HPE Discover Las Vegas 2026

Utöver Vultr-partnerskapet lyfte HPE fram flera relaterade initiativ:

• Satsning på agentisk AI: HPE tillkännagav ett bredare initiativ för att föra agentisk AI i produktion med NVIDIA, med betoning på säkerhet, styrning, skalbarhet och suveränitet
• Kunddistributioner: S k y Co., Ltd. distribuerade HPE Private Cloud AI som en del av NVIDIA AI Computing by HPE-portföljen
• Nubax i Argentina: Företaget lanserade en konsumtionsbaserad AI-as-a-service-modell, den första i sitt slag i landet, som levererar 62,5 % bättre leveranskedjeprognoser, 35 % kortare väntetider och 40 % kostnadsbesparingar, drivet av NVIDIA AI Computing by HPE

Vad detta betyder för företags-AI

Vultrs val av HPE och NVIDIA signalerar en viktig brytpunkt. Som den största privatägda hyperscalern satsar Vultr på att företagskunder behöver infrastruktur som kan hantera både träning och realtidsinferens i molnskala. Genom att kombinera NVIDIA:s rack-skala GPU-beräkning med HPE:s fabriksarkitektur, flytande kylning och tjänster positionerar Vultr sig för att betjäna nästa våg av AI-arbetsbelastningar – från modellträning till produktionsinferens på modeller med biljoner parametrar.

Hårdvaran: NVIDIA GB300 NVL72 av HPE

Vultr kommer att installera NVIDIA GB300 NVL72-systemet, byggt av HPE, som kärnan i sin nästa generations AI-infrastruktur. Denna rack-skala-arkitektur kombinerar NVIDIA Blackwell Ultra GPU:er med NVIDIA Grace CPU:er i en 72-GPU NVLink-domän . Specifikationerna är imponerande:

• AI-prestanda: Upp till 1 440 PFLOPS FP4 AI-prestanda
• Minne: 279 GB HBM3e-minne per GPU (37 TB totalt i racket), med 8 TB/s minnesbandbredd per GPU
• Arkitektur: Optimerad för träning, finjustering och realtidsinferens av stora AI-modeller med över 1 biljon parametrar
• Kylning: Helt flytandekyld design integrerad i HPE:s AI-fabriksarkitektur

GB300 NVL72 beskrivs som den nya ”inferens-/träningsarbetshästen” med ett uttalat cost-per-token-perspektiv, vilket speglar branschens skifte mot att operationalisera AI-modeller för realtidsapplikationer i stor skala . Enligt NVIDIA:s produktsida levererar den 1,5 gånger fler täta FP4 Tensor Core FLOPS och 2 gånger högre attention-prestanda jämfört med NVIDIA Blackwell GPU:er .

Höghastighetsnätverk: Ryggraden i AI-inferens

Höghastighetsnätverk är en grundläggande pelare i utbyggnaden. NVIDIA GB300 NVL72-systemen kopplas samman med NVIDIA Spectrum-X Ethernet-nätverk, en förlustfri, högenomströmnings Ethernet-fabric som är utformad för att eliminera flaskhalsar i AI-arbetsbelastningar över flera noder .

Installationen använder 400GbE- och 800GbE-interconnects, optiska sändtagare, NVIDIA Spectrum-X Ethernet-switchar och SuperNIC:er . Utan denna fabric skulle skalning av inferens till företagsgenomströmning skapa förlamande latens- och bandbreddsflaskhalsar. NVIDIA Enterprise Reference Architecture för NVL72 AI Factory bekräftar att denna dubbelplansnätverksarkitektur är utformad för att driva företagsdatacenter för AI-träning och inferens i massiv skala, vilket möjliggör realtidsapplikationer och modeller med biljoner parametrar .

Strategiskt skifte: Från träning till inferens

Även om infrastrukturen stöder både träning och inferens , lägger tillkännagivandet tonvikt på ett växande fokus hos företag på AI-inferens (produktionsdistribution) vid sidan av träning. Flera signaler pekar på detta skifte:

• GB300 NVL72 är byggd för ”test-time scaling inference och AI-reasoning-uppgifter”
• Den positioneras uttryckligen med ett cost-per-token-perspektiv, där värdet mäts i inferensoutput snarare än rå träningsgenomströmning
• HPE:s övergripande budskap på evenemanget fokuserade på att föra AI i produktion med säkerhet, styrning, skalbarhet och suveränitet

Implikationen är tydlig: företag har gått från experimenteringsfasen och söker nu infrastruktur optimerad för att distribuera AI-modeller i stor skala i produktionsmiljöer.

Andra tillkännagivanden på HPE Discover Las Vegas 2026

Utöver Vultr-partnerskapet lyfte HPE fram flera relaterade initiativ:

• Satsning på agentisk AI: HPE tillkännagav ett bredare initiativ för att föra agentisk AI i produktion med NVIDIA, med betoning på säkerhet, styrning, skalbarhet och suveränitet
• Kunddistributioner: S k y Co., Ltd. distribuerade HPE Private Cloud AI som en del av NVIDIA AI Computing by HPE-portföljen
• Nubax i Argentina: Företaget lanserade en konsumtionsbaserad AI-as-a-service-modell, den första i sitt slag i landet, som levererar 62,5 % bättre leveranskedjeprognoser, 35 % kortare väntetider och 40 % kostnadsbesparingar, drivet av NVIDIA AI Computing by HPE

Vad detta betyder för företags-AI

Vultrs val av HPE och NVIDIA signalerar en viktig brytpunkt. Som den största privatägda hyperscalern satsar Vultr på att företagskunder behöver infrastruktur som kan hantera både träning och realtidsinferens i molnskala. Genom att kombinera NVIDIA:s rack-skala GPU-beräkning med HPE:s fabriksarkitektur, flytande kylning och tjänster positionerar Vultr sig för att betjäna nästa våg av AI-arbetsbelastningar – från modellträning till produktionsinferens på modeller med biljoner parametrar.