AMD MI455X와 Helios 공개: 432GB HBM4 GPU 72개를 한 랙에 담다

AMD의 Hot Chips 2026 공개 내용에서 가장 눈에 띄는 점은 Instinct MI400 시리즈가 단순한 차세대 AI 가속기가 아니라는 사실이다. AMD는 플래그십 모델인 Instinct MI455X를 Helios라는 랙 단위 AI 플랫폼의 핵심 연산 타일로 설계했다. Helios는 GPU뿐 아니라 호스트 CPU, 네트워크, 랙 구조, ROCm 소프트웨어까지 하나의 시스템으로 묶는다. 핵심 차별점은 메모리 용량이다. MI455X 한 개는 432GB의 HBM4를 탑재하고, 72개 GPU로 구성된 Helios 한 랙은 총 31TB의 HBM4를 제공한다. 2310

MI455X: AI 메모리 병목을 겨냥한 칩렛 GPU

MI455X는 AMD의 5세대 CDNA 아키텍처를 사용한다. 연산부는 TSMC N2 공정으로 제조한 8개의 Accelerator Complex Die(XCD)로 구성되며, 패브릭·캐시와 I/O 기능은 TSMC N3P 공정의 별도 다이로 분리된다. AMD는 이 칩렛들을 12개의 HBM4 스택과 함께 TSMC CoWoS-L 패키지에 통합했다. 1721

이는 하나의 거대한 모놀리식 GPU를 만드는 대신, 연산 다이에는 가장 앞선 공정을 적용하고 패브릭·캐시·I/O는 별도 칩렛으로 나누는 방식이다. 결과적으로 MI455X는 단순히 커진 GPU라기보다 메모리 대역폭, 제조 수율, 랙 단위 연결성을 함께 고려한 멀티다이 시스템에 가깝다.

코어 구조와 실행 방식

AMD가 공개한 MI455X는 256개의 Work Group Processor(WGP)와 192MB의 글로벌 L2 캐시를 갖는다. CDNA 5에서는 네이티브 Wave32 실행을 지원하는 매트릭스 코어 기능도 추가됐다. 현대 AI 워크로드에서 사용하는 저정밀 데이터 형식도 폭넓게 지원한다. 320

Hot Chips 관련 자료에서는 지수와 로그 같은 초월함수 연산을 위한 저지연 경로도 소개됐다. 이런 연산은 어텐션, 정규화, 활성화 함수 등 신경망의 여러 단계에서 사용된다. 다만 현재 공개된 자료에는 지연시간이 얼마나 줄어드는지에 대한 수치가 없으므로, 이를 검증된 성능 향상 수치로 해석해서는 안 된다.

MI455X 주요 사양

• 컴퓨트 아키텍처: AMD CDNA 5
• 연산 칩렛: TSMC N2 기반 XCD 8개 17
• 패브릭·캐시 및 I/O: N3P 기반 칩렛 17
• 패키징: TSMC CoWoS-L 21
• Work Group Processor: 256개 3
• 글로벌 L2 캐시: 192MB 3
• HBM4: 12스택, 총 432GB 317
• 최대 메모리 대역폭: 23.3TB/s 23
• 최대 OCP MXFP4 성능: 40.26PFLOPS, AMD 표기 약 40.3PFLOPS 319
• 최대 MXFP6 성능: 20.13PFLOPS 319
• 최대 MXFP8 성능: 20.13PFLOPS 319

위 수치는 모두 이론상 최대치다. 실제 애플리케이션 성능은 정밀도, 희소성, 모델 구조, 메모리 접근 패턴, 소프트웨어 최적화 수준, 그리고 연산 자원을 얼마나 지속적으로 활용할 수 있는지에 따라 달라진다.

432GB HBM4가 중요한 이유

MI455X에서 가장 중요한 사양은 최대 연산 성능보다 메모리 용량일 수 있다. 12개의 HBM4 스택은 가속기 한 개에 432GB의 메모리와 최대 23.3TB/s의 대역폭을 제공한다. 23

대규모 모델의 가중치와 활성화 값은 물론, 추론 과정에서 계속 늘어나는 키-값 캐시(KV cache)까지 더 많은 데이터를 한 가속기 안에 담을 수 있다는 의미다. 특히 긴 컨텍스트와 다수의 동시 요청을 처리하는 추론 환경에서는 KV 캐시 용량이 성능과 비용을 제한하는 요인이 될 수 있다.

AMD는 CDNA 5에서 OCP MXFP4·MXFP6·MXFP8, OCP FP8, BF16, FP16, TF32, FP32, FP64 등 다양한 데이터 형식을 지원한다. 저정밀 형식은 AI 학습과 추론 효율을 높이기 위한 것이고, FP32와 FP64 지원은 HPC와 혼합형 워크로드까지 고려한 구성이다. 1820

Helios: MI455X를 랙 단위 시스템으로 확장

Helios는 Open Rack Wide 규격에 맞춘 컴퓨트 트레이 18개로 구성된다. 각 트레이에는 MI455X GPU 4개가 들어가며, 전체 GPU 수는 72개다. AMD가 공개한 랙 단위 최대 사양은 다음과 같다.

• FP4 연산: 2.9엑사플롭스
• FP8 연산: 1.4엑사플롭스
• 통합 HBM4 용량: 31TB
• 통합 HBM 대역폭: 1.7PB/s
• 스케일업 대역폭: 260TB/s
• 스케일아웃 대역폭: 43TB/s 21051

Helios의 의미는 MI455X 72개의 사양을 단순히 합산하는 데 있지 않다. AMD는 72개 가속기를 하나의 스케일업 도메인으로 묶어, GPU 간 통신을 여러 서버를 연결한 뒤 별도로 처리하는 문제가 아니라 시스템 설계의 중심으로 끌어왔다. 공개된 설계에서는 스케일업 연결에 Ethernet 기반 UALink를 사용하고, 스케일아웃에는 Ethernet 네트워크를 활용한다. 1012

CPU, 트레이와 네트워크

4개의 GPU가 들어가는 각 트레이에는 AMD EPYC ‘Venice’ 호스트 프로세서가 결합된다. Hot Chips 시스템 아키텍처를 다룬 보도는 이 호스트 플랫폼을 SP7 기반 EPYC 9006으로 설명하며, AMD는 Helios가 6세대 EPYC 9006 시리즈 CPU, MI455X GPU, Pensando 네트워킹을 결합한다고 밝혔다. 71014

Pensando Vulcano AI NIC는 스케일아웃 트래픽을 위해 800Gbps Ethernet 연결을 제공한다. AMD 자료는 Vulcano 기반 설계에서 GPU 한 개당 최대 2.4Tbps의 스케일아웃 대역폭을 제시한다. 47

역할 분담도 분명하다. GPU는 매트릭스와 벡터 연산을 담당하고, EPYC CPU는 호스트와 제어 영역의 작업을 처리하며, 네트워크 패브릭은 랙 내부와 랙 외부로 데이터를 이동시킨다. 따라서 Helios는 동일한 가속기 카드를 여러 장 꽂은 서버라기보다, 연산·호스트·메모리·네트워크를 함께 설계한 공동 설계형 컴퓨팅 시스템이다.

Open Rack Wide와 ROCm 전략

AMD는 Helios를 Meta가 주도한 Open Rack Wide 접근법과 Open Compute Project(OCP)의 랙 표준에 맞추고 있다. 또한 UALink와 Ethernet 기반 패브릭을 사용해 특정 업체의 독점 규격에 종속된 폐쇄형 랙이 아니라는 점을 강조한다. 4749

AMD가 내세우는 구성은 다음과 같다.

• Instinct MI455X: 매트릭스·벡터 가속
• EPYC Venice: 호스트 및 제어 영역 연산
• Pensando Vulcano: 스케일아웃 네트워킹
• UALink over Ethernet: 스케일업 연결
• ROCm: CUDA 의존도를 낮추기 위한 소프트웨어 환경 1018

다만 ROCm이 GPU 플랫폼 전환에 필요한 모든 작업을 자동으로 없애주는 것은 아니다. 커널 지원, 라이브러리, 컴파일러, 모델 프레임워크와 운영 도구가 실제 이전 난이도를 결정한다. AMD의 전략적 포인트는 가속기 사양만 경쟁하는 것이 아니라, 대규모 AI 클러스터를 배치하는 데 필요한 하드웨어와 소프트웨어 기반 전체를 제공하려는 데 있다.

2026년 하반기 배치 예정…대규모 공급을 뜻하는 것은 아니다

AMD는 Helios가 생산에 들어갔으며 2026년 하반기부터 배치가 시작될 것이라고 밝혔다. 449 이는 AMD가 제시한 생산·배치 일정이다. 이미 모든 구성이 대규모로 설치됐거나, 모든 고객이 해당 랙을 물량 제한 없이 이용할 수 있다는 의미로 받아들여서는 안 된다.

Microsoft도 프런티어 모델 추론을 위해 Azure에 Helios를 배치할 계획이라고 별도로 발표했다. 이는 Helios의 구체적인 클라우드 배치 경로를 보여주지만, 고객 배치 계획이 독립적으로 측정된 실제 운영 성능을 의미하는 것은 아니다. 5456

데이터센터 GPU를 넘어서는 Versal Premium Gen 2

AMD는 Hot Chips 2026에서 다른 시장을 겨냥한 Versal Premium Gen 2 적응형 SoC도 소개했다. 이 제품군은 물리 AI, 네트워킹, 테스트·계측, 전문 영상, 항공우주·방위산업 등 데이터 집약적이고 지연시간에 민감한 분야를 대상으로 한다. 313638

Memory-on-Package(MoP) 버전은 LPDDR5X 메모리를 패키지 안에 직접 통합해 최대 32GB 용량을 제공한다. AMD는 최대 288GB/s의 예상 대역폭과 외부 메모리를 사용하는 설계 대비 최대 60%의 보드 면적 절감을 제시한다. 3641

Versal Premium Gen 2 제품군의 공식 사양에는 하드웨어로 구현된 PCIe Gen6와 CXL 3.1 인터페이스, LPDDR5X 및 DDR5 메모리 지원이 포함된다. 374042

일부 Hot Chips 보도는 플랫폼의 광범위한 기능과 관련해 PCIe Gen7 대응 트랜시버와 양자내성암호를 언급한다. 그러나 현재 확인 가능한 권위 있는 제품 자료가 확정하는 내용은 PCIe Gen6, CXL 3.1, PCIe 무결성 및 데이터 암호화 같은 보안 기능이다. 따라서 PCIe Gen7이나 하드웨어로 구현된 양자내성암호를 모든 Memory-on-Package 제품의 확정 사양으로 단정해서는 안 된다. 373940

결론: 숫자보다 중요한 것은 시스템 설계

MI455X의 432GB HBM4, 23.3TB/s 대역폭, 40.26PFLOPS MXFP4 성능은 그 자체로도 인상적이다. 하지만 이 수치들이 의미를 갖는 이유는 Helios라는 더 큰 시스템 설계 안에서 활용되기 때문이다. Helios는 MI455X 72개를 한 랙에 배치해 31TB의 HBM4, 엑사플롭스급 저정밀 연산, 고대역폭 스케일업 연결, EPYC 호스트 CPU, Pensando 네트워킹을 제공한다.

AMD의 경쟁 전략은 단순한 사양 경쟁이 아니다. GPU, 메모리, 패브릭, 호스트 프로세서, NIC, 랙, 소프트웨어 스택을 하나의 개방형 표준 플랫폼으로 작동시키려는 시도에 가깝다. 실제 경쟁력은 최대치 표만으로 결정되지 않는다. 실제 워크로드 성능, ROCm의 성숙도, 공급 능력, 고객 배치 규모가 Helios의 성패를 가를 핵심 변수가 될 전망이다.