구글, AMD와 손잡고 TPU v10에 CPU 코어를 집어넣는다? 에이전틱 AI가 바꾸는 칩 설계의 패러다임

맥락을 짚어보겠습니다. 브로드컴은 구글의 오랜 TPU 공동 설계 파트너로, 2026년 3월 v8부터 v11까지 4세대를 아우르는 5년 협력 계약을 체결한 상태입니다 . 미디어텍은 현재 아이언우드(TPU v7x) 세대의 I/O 및 생산 조정을 담당하고 있습니다 . AMD의 참여는 v10 세대 내의 특정 프로젝트로 보이며, 브로드컴을 완전히 대체하는 것은 아닙니다. 다만 브로드컴의 아이언우드 CoWoS 생산량이 약 32,000웨이퍼 하향 조정되었다는 소식도 있습니다 .

또한, 구글은 TSMC 의존도를 낮추기 위해 차세대 TPU v10(코드명 'Ice Fish')의 일부 부품 생산을 삼성 파운드리에 맡기는 방안을 검토 중이며 , Marvell과도 다른 맞춤형 AI 칩 개발을 위한 협상을 진행 중입니다 .

중요한 점은 이러한 내용이 구글이나 AMD의 공식 발표가 아닌 시장의 루머라는 것입니다. SemiAnalysis의 보고는 '시장의 잡음' 수준이며, AMD 프로젝트는 특정 SKU, 실험적 경로, 또는 공급망 다각화를 위한 하나의 헤지 전략일 가능성이 높습니다 .

하이브리드 칩이 에이전틱 AI와 강화학습에 적합한 이유

순수 행렬 연산 ASIC에서 통합 CPU 코어를 탑재한 하이브리드 칩으로의 전환은 AI 워크로드, 특히 강화학습(RL)과 에이전틱 AI의 변화하는 성격에 대한 직접적인 아키텍처적 대응입니다.

에이전틱 AI는 GPU가 아닌 CPU에 묶여있다

전통적인 배치 추론(Batch Inference)은 거의 전적으로 GPU에 의존합니다. 프롬프트가 입력되면 GPU가 순방향 전달을 수행하고 토큰을 반환합니다 . 하지만 에이전틱 AI 워크로드는 근본적으로 다릅니다. 오케스트레이션(조정), 계획 수립, 도구 호출, 샌드박스 실행, 환경과의 상호작용 등 모든 과정이 CPU에서 실행됩니다 .

한 학술 연구에 따르면, 도구 사용이 많은 에이전틱 AI 워크로드는 CPU에서의 도구 처리 과정에서 심각한 병목 현상이 발생하며, 이는 종단 간 지연 시간의 최대 88% 를 차지합니다 . Akash Borate의 별도 분석에서는 이 수치가 최대 90.6% 에 달한다고 주장하기도 했습니다 .

CPU:GPU 비율의 급격한 변화

AI 훈련 클러스터에서 CPU 대 GPU 비율은 대략 1:7 또는 1:8 수준입니다 . 워크로드가 추론으로 이동하면 이 비율은 1:3 또는 1:4로 낮아집니다 . 그러나 에이전틱 배포 환경에서는 상황이 완전히 달라집니다. 인텔은 2026년 1분기 실적 발표에서 일부 고객들이 이미 GPU당 4개의 CPU를 운영하고 있으며, 특정 클러스터에서는 1:1 비율에 도달했다고 밝혔습니다 .

모건스탠리는 이러한 변화에 힘입어 2030년까지 CPU 시장이 325억~600억 달러 규모로 추가 성장할 것으로 전망합니다 . AMD 역시 에이전틱 AI는 단일 GPU 중심의 추론 워크로드가 아니라, 오케스트레이션 및 샌드박스 실행을 위해 높은 코어 밀도와 높은 스레드 수를 가진 CPU를 필요로 하는 이기종(Heterogeneous) 엔드투엔드 워크플로우라고 주장합니다 .

강화학습은 샌드박스 루프를 필요로 한다

강화학습 훈련, 특히 에이전틱 모델의 경우, 샌드박스 실행, 환경 시뮬레이션, 보상 계산, 정책 업데이트의 반복적인 사이클이 필요합니다. 이러한 루프는 순수 행렬 가속기로 효율적으로 매핑하기 어려운 상당한 CPU 측 오케스트레이션을 수반합니다.

엔비디아의 베라(88코어 올림푸스 설계)와 인텔의 제온 6+는 모두 이러한 '타이트한 강화학습 샌드박스 루프' 패턴에 최적화되고 있습니다 . 하드웨어 업계는 미래의 AI 가속기는 더 이상 순수 행렬 엔진이 아니라는 공통된 인식으로 수렴하고 있습니다.

구글의 하이브리드 TPU v10이 주는 시사점

AMD CPU 코어를 TPU 패키지에 직접 통합함으로써, 구글은 CPU 집약적인 에이전틱 루프의 PCIe 병목 현상을 제거하고, 지연 시간을 줄이며, '도구 호출 → 환경 단계 → 정책 업데이트' 사이클을 단일의 긴밀하게 결합된 다이에서 처리할 수 있게 됩니다. 이는 미래의 AI 시스템이 워크로드 단계에 따라 컴퓨팅 유형을 혼합하는 이기종 시스템온패키지(System-on-Package) 설계가 될 것이라는 통찰의 하드웨어적 구현입니다.

광범위한 영향

결론

구글이 TPU v10 내부에 CPU 코어를 탑재할 것이라는 소문은 단순한 점진적 개선이 아닙니다. 이는 2028년의 AI 가속기가 2024년의 가속기와 매우 다른 모습일 것이라는 인식을 반영합니다. 에이전틱 AI와 강화학습은 컴퓨팅 아키텍처의 규칙을 다시 쓰고 있으며, 초당 수천 번의 도구 호출 루프를 처리하는 칩은 하나의 거대한 행렬 곱셈만을 수행하는 칩과는 다르게 설계되어야 합니다.

SemiAnalysis의 루머가 사실이라면, 구글과 AMD는 지금 바로 그 칩을 만들고 있는 것입니다.