퀄컴의 엔비디아 추격전, 승부처는 ‘메모리 옆 연산’ HBC

퀄컴이 엔비디아에 맞서 내놓은 카드는 단순한 ‘GPU 대체품’이 아니다. AI 데이터센터에서 특히 빠르게 커지는 추론(inference) 시장을 겨냥해 메모리, 연산, 서버 CPU, 네트워크, 소프트웨어를 한데 묶는 플랫폼 전략이다.

그 중심에는 **HBC(High Bandwidth Compute)**가 있다. 퀄컴이 해결하려는 문제는 대형 언어 모델의 가중치를 메모리에서 프로세서로 계속 옮기는 데 드는 전력과 지연이다. 다만 HBC가 실제로 엔비디아 시스템을 대체할 수 있는지는 아직 생산 하드웨어, 독립 벤치마크, 공급망 실행력, 고객 배치가 확인돼야 판단할 수 있다.

HBC가 겨냥한 AI 추론의 ‘메모리 벽’

자동회귀 방식의 AI 추론은 토큰을 하나씩 생성할 때마다 모델 데이터를 반복해서 읽는다. 이 과정에서는 연산량 자체보다 메모리 접근과 데이터 이동에 필요한 시간과 전력이 성능과 비용을 좌우할 수 있다.

퀄컴의 HBC는 적층 LPDDR 메모리 아래에 연산 다이를 배치하고, 두 층을 촘촘한 TSV(실리콘 관통 전극)로 연결하는 구조다. 연산을 데이터 가까이에서 수행해 메모리와 주 프로세서 사이의 이동을 줄이겠다는 발상이다. 245

여기서 퀄컴의 주장을 정확히 해석할 필요가 있다. 퀄컴은 LPDDR이 모든 HBM 시스템보다 단순히 더 높은 ‘일반적인 최고 대역폭’을 낸다고 말하는 것이 아니다. 특정 연산을 패키지 안에서 처리해 데이터 이동을 줄이고, 일부 추론 작업에서 실효 대역폭과 토큰 생성 효율을 높일 수 있다는 주장이다. 29

퀄컴에 따르면 HBC 1세대가 적용되는 Dragonfly AI250은 카드당 133TB/s의 실효 메모리 대역폭과 LPDDR5X 기반 AI200 대비 18배 향상을 목표로 한다. 4 다른 보도에서는 현재 HBM 구현보다 와트당 대역폭이 최대 6배 높다는 퀄컴의 주장도 전했다. 813

다만 이 수치들은 같은 기준의 비교가 아닐 수 있다. 실효 대역폭, 카드 단위 대역폭, 랙 단위 대역폭, 개별 HBM 스택의 대역폭은 서로 다른 지표다. 수백 TB/s라는 카드·랙 수준 수치를 단일 HBM 스택의 수치와 직접 비교하는 것은 ‘사과와 오렌지’를 견주는 것과 같다. 독립적인 토큰 처리량과 전력 효율 벤치마크가 나오기 전까지는 퀄컴의 수치를 아키텍처 및 성능 대비 전력에 관한 회사 주장으로 보는 편이 안전하다.

삼성전자와 SK하이닉스, 제조가 진짜 시험대

퀄컴은 연산 계층 설계와 시스템 통합을 맡고, 삼성전자와 SK하이닉스가 메모리 파트너로 HBC 개발에 참여할 것으로 전해졌다. 보도된 역할 분담에 따르면 두 메모리 업체는 DRAM 적층과 관련 작업을 담당하고, 첨단 패키징도 전체 시스템의 핵심 요소가 된다. 15

따라서 HBC는 프로세서 설계만의 승부가 아니라 패키징과 제조 역량에 대한 베팅이기도 하다. 메모리 인증, 3D 조립 수율, 열 관리, 검사, 대량 생산 비용을 모두 통과해야 한다. 설계도가 매력적이어도 안정적이고 경제적인 시스템을 충분한 물량으로 만들지 못하면 경쟁력은 사라진다.

퀄컴의 로드맵상 HBC 1세대 상용화는 2027년, 2세대는 2028년이다. 14 이는 이미 데이터센터에 설치된 엔비디아 하드웨어를 단기간에 대체하는 계획이라기보다, 여러 제품 세대에 걸친 플랫폼 전환에 가깝다.

Dragonfly는 HBC를 ‘풀스택’ 전략으로 확장한다

퀄컴은 Dragonfly를 단일 가속기가 아닌 데이터센터 포트폴리오로 제시한다. AI 추론 시스템과 HBC, C1000 서버 CPU, 고속 네트워킹, 맞춤형 실리콘 서비스가 주요 축이다. 1516

Dragonfly C1000은 에이전틱 AI, 범용 서버 작업, AI 헤드노드용으로 설계된 칩렛 기반 서버 프로세서다. 7 퀄컴과 Meta는 여러 세대에 걸친 CPU 협력을 발표했으며, 1세대 C1000의 생산은 2028년 하반기부터 시작될 예정이다. 18

이는 퀄컴에 의미 있는 하이퍼스케일러 설계 수주 신호다. 하지만 범위를 과장해서는 안 된다. Meta가 공식적으로 발표한 것은 C1000 CPU 공급 협력이지, HBC 가속기를 대규모로 도입한다는 약속이 아니다. 실제 배치는 성능, 신뢰성, 소프트웨어 지원, 공급량, 네트워크 통합, 총소유비용에 달려 있다.

CUDA 종속성에 맞서는 소프트웨어 카드

기존 AI 플랫폼을 흔들려면 하드웨어만으로는 부족하다. 퀄컴은 Modular 인수를 통해 Mojo 프로그래밍 언어와 MAX 소프트웨어 플랫폼을 확보했다. 회사는 이를 데이터센터와 엣지 환경에서 생성형·에이전틱 AI를 지원하는 기반으로 활용할 계획이다. 19

핵심 목표는 이식성이다. 개발자가 특정 칩 업체에 맞춰 소프트웨어 전체를 다시 작성하지 않고, 서로 다른 프로세서에서 모델과 워크로드를 옮겨 실행할 수 있게 하겠다는 것이다. Modular는 개방형 생태계를 강조해 왔고, 2026년 행사 관련 보도에서는 Mojo와 컴파일러가 완전히 오픈소스화됐다고 전했다. 46

이 전략은 퀄컴, 엔비디아, AMD 등 여러 가속기를 비교하려는 고객의 전환 비용을 낮출 가능성이 있다. 그러나 이것만으로 CUDA의 라이브러리, 개발 도구, 개발자 경험, 실제 운영 이력을 곧바로 따라잡는 것은 아니다. 네이티브 구현보다 큰 폭의 성능 향상을 낸다는 주장도 투명하고 재현 가능한 벤치마크가 공개되기 전까지는 전망으로 봐야 한다.

퀄컴은 RISC-V 전략도 강화하고 있다. 관련 인수 대상은 원래 제기된 ‘Antenna Microsystems’가 아니라 Ventana Micro Systems다. 퀄컴은 Ventana 인수가 RISC-V 설계 역량과 생태계 구축 노력을 강화한다고 설명했다. 2354

Hugging Face가 잇는 클라우드-엣지 구상

퀄컴과 Hugging Face의 협력은 Hugging Face의 내부 및 개발자 워크로드를 Dragonfly 데이터센터 시스템으로 가져오고, 모델 온보딩과 기기·데이터센터 간 하이브리드 오케스트레이션을 지원하는 데 초점이 맞춰져 있다. 21

이는 데이터센터, 스마트폰, 임베디드 기기와 물리적 AI를 하나의 배치 경로로 연결하려는 퀄컴의 구상과 맞닿아 있다. 클라우드에서 엣지 기기까지 이어지는 배포 경험은 차별화 요소가 될 수 있다. 하지만 폭넓은 제품군만으로 엔비디아의 대안이 되는 것은 아니다. 개발자가 실제 모델을 쉽게 배포하고, 운영자가 상용 환경에서 더 나은 비용 구조를 확인해야 한다.

HBC는 더 큰 메모리 재설계 흐름의 일부

퀄컴의 접근법은 메모리와 연산 사이를 오가는 데이터 자체를 줄이려는 업계의 흐름 속에 있다.

삼성전자의 LPDDR5X-PIM은 저전력 DRAM에 연산 로직을 추가해 일부 작업을 메모리 가까이에서 수행한다. 삼성은 기존 LPDDR5X보다 높은 추론 처리량을 시연했고, 관련 Hot Chips 발표를 다룬 보도에서는 27토큰/초 대비 81.3토큰/초의 결과가 소개됐다. 313639

SK하이닉스는 HBM 측면에서 같은 문제에 접근한다. 하이브리드 본딩과 iHBM은 메모리 적층이 높아지고 대역폭이 커질수록 심각해지는 발열과 집적도 문제를 해결하기 위한 기술이다. 32 다만 별도 보도에 따르면 하이브리드 본딩은 HBM4E에 적용되기 어렵고, 더 늦은 HBM 세대에 도입될 가능성이 있다. 40

삼성전자는 HBM4E 샘플에 대해 스택당 최대 3.6TB/s 대역폭과 최대 16Gbps 핀 속도를 제시했다. 41 이처럼 HBM도 계속 발전하고 있다. HBC는 2025~2026년의 고정된 HBM과 경쟁하는 것이 아니라, 함께 진화하는 차세대 메모리 기술과 경쟁하게 된다.

제공된 근거만으로는 삼성전자의 CXL 기반 MX1 연산 메모리 장치, DeepX의 도입, 메모리 병목 악화에 관한 Micron의 구체적인 경고를 확정된 사실로 보기 어렵다. 이 분석에서는 해당 세부 주장을 확인된 내용으로 취급하지 않는다.

퀄컴이 다음으로 증명해야 할 것

퀄컴의 전략에는 일관된 논리가 있다.

• 추론부터 공략: HBC는 메모리 이동이 토큰 비용을 좌우할 수 있는 디코드 중심 작업에 초점을 둔다. 29
• 전체 시스템 통합: Dragonfly는 가속기, CPU, 네트워크, 맞춤형 실리콘을 묶어 단일 칩 의존도를 낮춘다. 1516
• 소프트웨어 장벽 완화: Mojo와 MAX는 여러 하드웨어 플랫폼 사이에서 워크로드를 옮기기 쉽게 만드는 것을 목표로 한다. 1946
• 고객 신뢰 확보: Meta의 C1000 협력은 2028년 하반기 생산을 목표로 한 공식 하이퍼스케일러 CPU 관계를 제공한다. 18
• 클라우드-엣지 배포 확대: Hugging Face 협력은 기기에서 데이터센터까지 이어지는 전략을 뒷받침한다. 21

반대로 위험도 분명하다. HBC는 수율과 열 문제를 감당하며 양산돼야 한다. 퀄컴은 실효 대역폭과 단순 인터페이스 대역폭을 구분한, 워크로드별 비교 자료를 공개해야 한다. 컴파일러와 런타임은 실제 모델을 안정적으로 지원해야 한다. 메모리 파트너는 필요한 물량을 공급해야 하며, 고객은 CUDA와 병행해 또 하나의 플랫폼을 도입할 이유를 찾아야 한다.

결론: 유망한 설계지만 아직은 ‘미래의 도전자’

퀄컴은 AI 인프라의 중요한 제약인 추론 메모리 이동을 정면으로 겨냥하는 대안 아키텍처를 제시했다. HBC, Dragonfly C1000, Modular의 소프트웨어, RISC-V 역량, Hugging Face 협력은 단일 가속기보다 훨씬 넓은 경쟁 구도다.

그러나 현재 로드맵만으로 엔비디아의 데이터센터 지배력이 흔들렸다고 보기는 어렵다. निर्ण적인 검증 시점은 2027년 HBC 1세대 하드웨어, 2028년 하반기로 예정된 C1000 생산, 그리고 독립적인 고객 성능 및 총소유비용 평가다. 그때까지 HBC는 엔비디아를 이미 대체한 제품이 아니라, 메모리 병목을 공략하는 유망한 차세대 도전장에 머문다.