HP·레드햇·엔비디아, 데이터센터 AI를 엣지로 확장한다

HP가 레드햇(Red Hat), 엔비디아(NVIDIA)와 함께 데이터센터 중심의 AI 아키텍처를 현장 가까이까지 확장하는 기업용 AI 플랫폼을 추진한다. 핵심은 HP ZGX Fury 하드웨어와 Red Hat AI Factory with NVIDIA 소프트웨어 계층을 묶어, 사용자·애플리케이션·장비·데이터가 있는 곳에서 프로덕션 추론을 실행하고 여러 AI 워크로드를 운영하는 것이다. 213

핵심은 ‘엣지에서의 추론’

이번 발표에서 말하는 엣지 AI는 모든 요청을 원격 클라우드로 보내는 대신, 데이터가 생성되거나 실제 업무가 수행되는 장소에 더 가까운 곳에서 모델 추론을 처리하는 방식이다.

HP는 그 배경으로 지연 시간, 개인정보 보호, 데이터 주권, 네트워크 연결성 문제를 들었다. 민감한 운영 데이터를 외부로 옮기기 어렵거나, 즉각적인 응답이 중요하거나, 연결이 제한된 환경에서 선택지가 될 수 있다는 설명이다. 8

HP가 예시로 든 적용 분야는 다음과 같다.

• 제조업: 설비와 생산 데이터 가까이에서 AI 모델을 실행하는 환경
• 소프트웨어 개발: 부서 단위 또는 온프레미스 추론과 AI 보조 개발 워크플로
• 헬스케어: 민감한 데이터를 원천에 가깝게 유지해야 하는 환경
• 정부 기관: 클라우드 연결이 적합하지 않을 수 있는 에어갭(외부 네트워크와 물리적으로 분리된) 또는 격리 환경 58

다만 이는 HP가 제시한 활용 시나리오다. 실제 효과는 사용하는 모델의 규모, 데이터 처리 요건, 네트워크 설계, 운영 도구 구성에 따라 달라진다.

ZGX Fury: GB300 기반 로컬 AI 스테이션

하드웨어 중심에는 엔비디아 GB300 Grace Blackwell Ultra Desktop Superchip을 탑재한 HP ZGX Fury가 있다. HP는 이 시스템이 로컬 추론 작업에서 최대 20PFLOPS의 FP4 AI 성능을 제공하도록 설계됐다고 밝혔다. 14

여기서 PFLOPS는 초당 1000조 회의 부동소수점 연산을 뜻하는 성능 단위이며, FP4는 AI 추론에 활용될 수 있는 저정밀 수치 형식이다. 이 수치 자체보다 기업 관점에서 중요한 지점은 대형 AI 추론을 중앙 데이터센터에만 의존하지 않고 현장 또는 사내 인프라에 배치하려는 설계 방향이다.

HP는 이 조합을 단순 워크스테이션이 아니라, 데이터센터 밖에서도 복수 AI 워크로드를 실행하고 오케스트레이션하기 위한 기업 플랫폼으로 내세웠다. 워크로드는 로컬, 클라우드 또는 두 환경을 아우르는 형태로 배치할 수 있도록 설계됐다. 15

레드햇은 배포·관리 계층을 맡는다

Red Hat AI Factory with NVIDIA는 하이브리드 클라우드 환경에서 AI를 운영하기 위한 소프트웨어·운영 계층 역할을 한다. 레드햇은 이를 자사의 오픈 하이브리드 클라우드 플랫폼과 AI 엔지니어링·기업 운영 역량, 그리고 엔비디아의 최적화 AI 소프트웨어·모델·마이크로서비스·네트워킹·가속 인프라를 결합한 공동 지원형 기업 AI 솔루션으로 설명한다. 12

HP가 구상한 배포 구조에서는 이 계층이 엣지 사이트, 데이터센터, 클라우드 전반에 걸쳐 AI 모델과 애플리케이션을 배포·관리하는 데 쓰인다. 또한 플랫폼은 개방형·가상화 구조로 설명되며, 하나의 시스템에서 여러 AI 워크로드를 돌리면서도 워크로드 간 격리와 운영 통제를 유지하는 것이 목표다. 813

지금 주문 가능한 것과 아직 계획 단계인 것

HP는 ZGX Fury를 현재 주문할 수 있고, Red Hat Enterprise Linux(RHEL) 인증을 받았다고 밝혔다. 48

하지만 ZGX Fury와 Red Hat AI Factory with NVIDIA를 결합한 광범위한 통합 솔루션은 아직 완전히 일반 제공되는 서비스라기보다, 발표 시점 기준으로는 계획된 플랫폼이다. 12

HP는 고객이 실제 운영 환경으로 옮기기 전에, Red Hat AI Factory with NVIDIA가 구동되는 HP 장비에서 샌드박스 방식으로 조합을 평가할 수 있게 할 예정이라고도 밝혔다. 2 다만 이 평가 환경의 제공 시점, 이용 자격, 세부 기술 구성은 발표에 포함되지 않았다.

기업이 확인할 포인트

이번 발표의 핵심은 최대 20PFLOPS라는 성능 수치만이 아니다. HP·레드햇·엔비디아는 민감한 데이터와 현장 운영에 더 가까운 곳에서 AI를 돌리면서도, 엣지·데이터센터·클라우드를 아우르는 일관된 배포·관리 체계를 제공하겠다는 방향을 제시했다. 11213

도입을 검토하는 기업은 현재 가능한 범위와 계획 단계를 구분할 필요가 있다. 현재 확인된 것은 ZGX Fury 하드웨어의 주문 가능 여부와 RHEL 인증이며, 통합 플랫폼의 완성된 제공 방식 및 샌드박스 평가 경로의 세부 조건은 후속 발표를 지켜봐야 한다. 24