AMD, 2026년 AI 랙 에너지 효율 4배 달성…2030년 ‘20배’ 목표에 속도

‘노드’에서 ‘랙’으로 바뀐 측정 범위

AMD의 이전 ‘30×25’ 프로그램은 CPU와 GPU가 결합된 가속 컴퓨팅 노드의 효율을 측정했다. AMD는 2020년부터 2025년까지 이 노드 단위 에너지 효율을 38배 개선했으며, 동일 성능 기준 에너지 사용량이 97% 감소했다고 밝혔다.

새로운 20×2030 목표는 범위가 더 넓다. 단일 가속기나 노드가 아니라 다음 요소를 포함한 랙 전체를 평가한다.

• AI 가속기와 CPU
• HBM 등 메모리와 메모리 이동
• 랙 내부·외부 네트워킹
• 전력 공급과 냉각에 따른 오버헤드
• 스케줄링, 커널 최적화, 모델 병렬화 등 소프트웨어 활용률

이 차이는 중요하다. GPU의 이론상 FLOPS가 높아져도 메모리 대기나 칩 간 통신이 길어지면 실제 학습·추론 작업을 끝내는 데 필요한 에너지는 크게 줄지 않을 수 있기 때문이다.

효율 개선을 만드는 네 가지 축

AMD가 제시한 개선 경로는 특정 GPU 하나의 성능 향상에만 의존하지 않는다.

첫째, 더 효율적인 연산 구조와 FP8·FP4 같은 저정밀도 AI 형식은 같은 전력으로 더 많은 유효 연산을 수행하도록 돕는다. 물론 저정밀도 연산이 모든 모델과 작업에 동일하게 적용되는 것은 아니므로, 실제 효율은 워크로드에 따라 달라질 수 있다.

둘째, 더 큰 용량과 더 빠른 대역폭의 HBM은 가속기가 메모리를 기다리는 시간을 줄이고 데이터 이동에 필요한 에너지를 낮춘다. 셋째, 랙 내부의 고대역폭 스케일업 연결과 랙 간 스케일아웃 네트워크는 여러 가속기가 함께 작업할 때 발생하는 통신 정체를 완화한다.

넷째, 소프트웨어 최적화가 뒤따른다. AI 커널 효율, 작업 스케줄링, 모델 병렬화, 메모리 접근 방식, 하드웨어 가동률이 개선돼야 이론적 성능이 실제 작업 처리량과 전력 절감으로 이어질 수 있다.

Helios, 부품이 아닌 ‘통합 랙’으로 승부

AMD의 대표적인 랙 단위 제품은 Helios다. Helios는 Instinct MI455X GPU 72개, 차세대 EPYC ‘Venice’ CPU, Pensando 네트워킹을 하나의 랙 규모 시스템으로 통합한다. AMD가 공개한 주요 사양은 다음과 같다.

• 최대 FP4 연산 성능: 2.9엑사플롭스
• 최대 FP8 연산 성능: 1.4엑사플롭스
• HBM4 메모리: 31TB
• 랙 내부 스케일업 대역폭: 260TB/s
• 랙 간 스케일아웃 대역폭: 43TB/s

AMD는 Helios가 엔비디아의 Vera Rubin NVL72와 비교해 최대 피크 FP4 성능 15%, HBM 용량 50%, 스케일아웃 대역폭 50% 우위를 제공하도록 설계됐다고 주장한다. 다만 이 비교 역시 AMD가 제시한 공급업체 주장으로, 독립적인 동일 조건 테스트 결과와는 구분해야 한다.

Helios는 2026년 7월 기준 완전 생산 단계에 들어갔으며, 첫 출하는 2026년 3분기 말, 이후 물량 확대가 예정돼 있다고 AMD가 밝혔다. 제공된 자료만으로는 2027년의 구체적인 생산 마일스톤을 확정할 수 없으므로, ‘2026~2027년 본격 전개’라는 표현은 검증된 일정이라기보다 이후 확대를 포함한 전망으로 보는 편이 정확하다.

데이터센터 성장과 엔비디아와의 경쟁

AMD가 이처럼 랙 단위 시스템을 강조하는 배경에는 급증하는 AI 인프라 수요가 있다. 로이터에 따르면 AMD의 Helios는 엔비디아의 주력 AI 시스템에 도전하기 위한 제품으로, 2026년 3분기 말부터 출하될 예정이다. AMD의 2026년 2분기 데이터센터 매출은 67억 달러로 전년 동기보다 107% 증가했다는 보도도 나왔다. 다만 이 부문에는 AI 가속기뿐 아니라 EPYC 서버 CPU 매출도 포함된다.

따라서 Helios의 의미는 GPU 성능 경쟁에만 있지 않다. AMD는 가속기 단품을 판매하는 데서 나아가 CPU, 메모리, 네트워크, 냉각, 소프트웨어를 묶은 통합 랙을 공급하려 한다. 이는 데이터센터 운영자가 부품을 조합하는 부담을 줄이고, AMD가 시스템 수준의 성능·효율 지표를 직접 통제하려는 전략으로 볼 수 있다.

반면 엔비디아의 자금 조달·금융 전략이나 구글 TPU 시스템 매출이 AMD의 경쟁 구도에 미치는 영향은 이번 자료만으로 신뢰성 있게 수치화하기 어렵다. 이들 요소는 중요한 시장 변수일 수 있지만, 별도 출처가 없는 상태에서 구체적인 사실로 단정할 근거는 충분하지 않다.

결국 AMD의 이번 발표는 ‘GPU 한 개가 얼마나 빠른가’보다 AI 작업 하나를 끝내는 데 랙 전체가 얼마나 적은 에너지를 쓰는가가 다음 경쟁 기준이 될 수 있음을 보여준다. 2026년의 4배 개선은 회사가 제시한 중간 추정치이고, 2030년 20배 목표는 아직 달성해야 할 장기 계획이다. 실제 성과는 제품의 실측 전력, 냉각 방식, 소프트웨어 활용률, 워크로드 구성, 전력원의 탄소 집약도를 함께 확인해야 판단할 수 있다.