AI 인프라를 이야기할 때는 GPU가 먼저 거론되곤 합니다. 하지만 AI 에이전트가 여러 단계를 거쳐 일을 수행하는 환경에서는 모델을 호출하는 것 외에도 에이전트를 실행하고 작업 흐름을 조율하는 컴퓨팅 자원이 필요합니다. AMD는 이런 변화가 서버 CPU의 역할을 키우고 있다고 보고, 에이전트 작업에 맞춘 랙 설계 ‘헬리온’을 공개했습니다.
10
AI 에이전트가 CPU를 더 필요로 하는 이유
GPU는 모델 연산을 가속합니다. 반면 에이전트형 시스템은 모델을 호출하기 전후로 작업을 실행하고, 필요한 정보를 주고받는 과정도 처리해야 합니다. AMD는 에이전트가 늘어날수록 작업 조율과 데이터 이동이 많아져 CPU 수요가 커질 수 있다고 설명합니다.
20
AMD에 따르면 챗봇 중심의 기존 배치에서 대략 CPU 1개당 GPU 4~8개였던 비율이 에이전트형 AI에서는 1:1에 가까워지고, 일부 환경에서는 CPU 비중이 더 높아질 수 있습니다. 이는 AMD가 제시한 일부 배치의 변화 방향이지, 모든 데이터센터에 적용되는 표준 비율은 아닙니다. 필요한 구성은 실제 작업과 인프라 설계에 따라 달라집니다.
AMD 엔터프라이즈 사업을 이끄는 데릭 디커는 에이전트형 AI의 작업이 “GPU만큼이나 CPU 작업”이 되고 있다고 설명했습니다. 그렇다고 CPU가 GPU를 대체한다는 뜻은 아닙니다. 에이전트를 실행하는 과정에서 CPU 용량도 시스템 성능을 좌우하는 중요한 요소가 된다는 의미입니다.
헬리온이 제시한 두 가지 랙 구성
AMD는 2026년 10월 12일, 오픈 컴퓨트 프로젝트(OCP) 규격을 바탕으로 한 랙 단위 설계 헬리온을 발표했습니다. OCP는 데이터센터 하드웨어 설계와 규격을 공개적으로 공유하는 프로젝트입니다. AMD가 제시한 구성은 대규모 사업자용 CPU 단독 랙과 기업용 CPU·GPU 통합 시스템, 두 가지입니다.
10
13
하이퍼스케일용 설계는 AMD 6세대 EPYC 프로세서를 사용해 랙당 최대 3만2768개 CPU 코어를 지원합니다. 이 구성에서는 GPU 인프라와 분리된 CPU 랙에서 에이전트를 실행하도록 설계됐습니다.
2
13
기업용 구성은 에이전트 실행과 추론에 필요한 CPU와 GPU를 한 시스템에 결합합니다. 보도에 따르면 최대 16개의 Instinct MI350P GPU를 지원할 수 있지만, 모든 기업용 구성이 최대 사양으로 제공된다는 뜻은 아닙니다.
7
헬리온은 AMD의 랙 단위 플랫폼인 헬리오스를 기반으로 합니다. 이름은 비슷하지만 서로 다른 설계로, 헬리온은 에이전트형 AI 인프라를 겨냥한 제품입니다.
8
10
커지는 시장 전망, 아직은 매출이 아니다
AMD는 AI 관련 CPU 수요 확대와 함께 서버 CPU 시장 전망도 높여 왔습니다. 콘퍼런스 보도에 따르면 회사는 2030년 서버 CPU 시장 규모를 약 2200억 달러로 제시했습니다. 이전 전망치인 600억 달러에서 크게 오른 수치입니다.
18 이는 시장 전체에 대한 전망이지 AMD가 벌어들일 매출을 뜻하지는 않습니다.
헬리온은 파트너사가 구체적인 시스템을 구성할 수 있도록 내놓은 설계 청사진입니다. AMD는 파트너 구성을 2026년 11월부터 선보일 계획이라고 밝혔습니다.
4
11 발표와 출시 계획만으로 실제 출하량이나 매출 규모를 알 수는 없습니다. 향후에는 고객사가 랙을 어떻게 구성하는지, 실제 에이전트 작업에서 얼마나 효과를 내는지가 관건입니다.
CPU가 다시 중요해져도 GPU의 역할은 그대로
에이전트형 AI는 데이터센터 인프라의 초점을 넓히고 있습니다. GPU 성능은 여전히 중요하지만, 에이전트를 실행하고 그 주변 작업을 처리할 CPU 자원도 함께 고려해야 합니다. AMD가 제시한 CPU 대 GPU 1:1 비율은 일부 배치에서 회사가 관찰한 흐름이지 보편적인 공식은 아닙니다. 헬리온은 CPU 단독형과 CPU·GPU 통합형을 모두 제공하는 설계로 이 관점을 구체화했습니다.
10