Vultr, HPE·NVIDIA와 손잡고 AI 데이터센터 확장… GB300 NVL72 1,440 PFLOPS 투입

2026년 6월 15일부터 18일까지 라스베이거스에서 열린 HPE 디스커버 라스베이거스 2026에서 HPE는 세계 최대 민간 하이퍼스케일러인 Vultr가 대규모 AI 데이터센터 구축을 위해 HPE와 NVIDIA를 선택했다고 발표했습니다 . 이 파트너십은 2026년 6월 17일 HPE 보도자료를 통해 공식 확인되었습니다 . 급증하는 엔터프라이즈 프라이빗 클라우드 및 AI 워크로드 수요에 대응하기 위한 전략적 결정입니다.

하드웨어: HPE가 구축하는 NVIDIA GB300 NVL72

Vultr는 차세대 AI 인프라의 핵심으로 NVIDIA GB300 NVL72 시스템(HPE 제작)을 배포할 예정입니다. 이 랙-스케일 아키텍처는 NVIDIA Blackwell Ultra GPU와 NVIDIA Grace CPU를 72-GPU NVLink 도메인에 결합한 솔루션입니다 . 주요 사양은 다음과 같습니다:

• AI 성능: 최대 1,440 PFLOPS FP4 AI 성능
• 메모리: GPU당 279GB HBM3e 메모리(랙 전체 37TB), GPU당 8TB/s 메모리 대역폭
• 아키텍처: 1조 개 이상의 파라미터를 가진 대규모 AI 모델 훈련, 파인튜닝, 실시간 추론에 최적화
• 냉각: HPE AI 팩토리 아키텍처에 통합된 완전 액체 냉각 설계

GB300 NVL72는 '새로운 추론/훈련 워크호스'로 묘사되며, 명시적인 '토큰당 비용' 개념을 내세우고 있습니다. 이는 업계가 실시간 애플리케이션을 위한 AI 모델 운영화로 방향을 전환하고 있음을 반영합니다 . NVIDIA 제품 페이지에 따르면, NVIDIA Blackwell GPU 대비 1.5배 더 높은 FP4 Tensor Core FLOPS와 2배 더 높은 어텐션 성능을 제공합니다 .

고대역폭 네트워킹: AI 추론의 중추

고대역폭 네트워킹은 이번 배포의 핵심 기반입니다. NVIDIA GB300 NVL72 시스템은 NVIDIA Spectrum-X 이더넷 네트워킹으로 상호 연결됩니다. 이는 다중 노드 AI 워크로드의 병목 현상을 제거하도록 설계된 무손실, 고처리량 이더넷 패브릭입니다 .

이번 배포에는 400GbE 및 800GbE 인터커넥트, 광 트랜시버, NVIDIA Spectrum-X 이더넷 스위치 및 SuperNIC가 포함됩니다 . 이러한 패브릭 없이는 엔터프라이즈급 처리량으로 추론을 확장할 때 치명적인 지연 시간과 대역폭 병목 현상이 발생합니다. NVIDIA GB300 NVL72 AI 팩토리용 엔터프라이즈 레퍼런스 아키텍처에 따르면, 이 이중 평면 네트워킹 아키텍처는 실시간 애플리케이션 및 1조 파라미터 모델을 지원하는 대규모 AI 훈련 및 추론용 엔터프라이즈 데이터센터에 전력을 공급하도록 설계되었습니다 .

전략적 전환: 훈련에서 추론으로

이 인프라는 훈련과 추론을 모두 지원하지만 , 이번 발표는 엔터프라이즈의 관심이 **AI 추론(프로덕션 배포)**으로 점점 더 이동하고 있음을 강조합니다. 여러 신호가 이러한 전환을 시사합니다:

• GB300 NVL72는 '테스트-타임 스케일링 추론 및 AI 추론 작업'에 특화되어 설계되었습니다
• 명시적인 '토큰당 비용' 개념으로 포지셔닝되어, 원시 훈련 처리량보다 추론 출력으로 가치를 측정합니다
• HPE의 이벤트 전체 메시징은 보안, 거버넌스, 확장성, 주권을 갖춘 AI를 프로덕션에 도입하는 데 초점을 맞췄습니다

이는 기업들이 실험 단계를 넘어 프로덕션 환경에서 대규모 AI 모델을 배포하는 데 최적화된 인프라를 찾고 있음을 의미합니다.

HPE 디스커버 라스베이거스 2026의 기타 발표

Vultr 파트너십 외에도 HPE는 다음과 같은 관련 이니셔티브를 강조했습니다:

• 에이전틱 AI(Agentic AI) 추진: HPE는 NVIDIA와 함께 에이전틱 AI를 프로덕션에 도입하기 위한 광범위한 이니셔티브를 발표했으며, 보안, 거버넌스, 확장성, 주권을 강조했습니다
• 고객 배포 사례: S k y Co., Ltd.는 NVIDIA AI Computing by HPE 포트폴리오의 일부로 HPE 프라이빗 클라우드 AI를 배포했습니다
• 아르헨티나 Nubax 사례: Nubax는 소비 기반 AI-as-a-Service 모델을 출시하여 공급망 예측 62.5% 개선, 대기 시간 35% 단축, 비용 40% 절감을 달성했으며, 이는 NVIDIA AI Computing by HPE로 구동됩니다

엔터프라이즈 AI에 대한 시사점

Vultr의 HPE 및 NVIDIA 선택은 중요한 변곡점을 시사합니다. 세계 최대 민간 하이퍼스케일러로서 Vultr는 엔터프라이즈 고객이 클라우드 규모에서 훈련과 실시간 추론을 모두 처리할 수 있는 인프라를 필요로 한다는 점에 베팅하고 있습니다. NVIDIA의 랙-스케일 GPU 컴퓨팅과 HPE의 팩토리 아키텍처, 액체 냉각, 서비스를 결합함으로써 Vultr는 모델 훈련부터 1조 파라미터 모델의 프로덕션 추론에 이르는 차세대 엔터프라이즈 AI 워크로드를 처리할 수 있는 위치를 확보하고 있습니다.