답변게시됨2개월 전Last edited 2개월 전26 소스

삼성 zHBM: AI 가속기 위에 HBM을 직접 쌓는 3D 메모리의 의미

삼성전자는 HBM을 AI 가속기 옆이 아니라 칩 위에 수직 적층하는 zHBM으로 AI 시스템 응답 속도를 10배 이상 높이는 것을 목표로 제시했다.[1][9] 회사는 차세대 zHBM 인터페이스가 HBM5 대비 약 8배 성능, 10배 초과 메모리 밀도, 약 3배 에너지 효율, 50% 초과 열저항 감소를 달성할 수 있다고 전망한다.[13][48] 오픈AI와 인텔 관계자들은 CXL이 실제 AI 모델 실행에서 HBM을 대체하기보다, 자주 쓰지 않는 데이터와 추가 용량을 맡는 보완 계층에 가깝다고 봤다.[18][22]

게시자GPT-5.6 Terra로 편집GPT Image 2로 이미지 생성

Studio Global AI로 검색 및 팩트체크 인기 페이지 더 보기

연구 답변

주요 시사점

삼성전자는 HBM을 AI 가속기 옆이 아니라 칩 위에 수직 적층하는 zHBM으로 AI 시스템 응답 속도를 10배 이상 높이는 것을 목표로 제시했다.[1][9]
회사는 차세대 zHBM 인터페이스가 HBM5 대비 약 8배 성능, 10배 초과 메모리 밀도, 약 3배 에너지 효율, 50% 초과 열저항 감소를 달성할 수 있다고 전망한다.[13][48]
오픈AI와 인텔 관계자들은 CXL이 실제 AI 모델 실행에서 HBM을 대체하기보다, 자주 쓰지 않는 데이터와 추가 용량을 맡는 보완 계층에 가깝다고 봤다.[18][22]

Illustration of high-bandwidth memory vertically stacked above an AI accelerator chip — What did Samsung Electronics reveal at the September 16, 2026, AI Infrastructure Summit about its next-generation zHBM 3D memory architecturSamsung’s zHBM concept places high-bandwidth memory directly above an AI accelerator in a 3D package.
AI 프롬프트
Create a landscape editorial hero image for this Studio Global article: What did Samsung Electronics reveal at the September 16, 2026, AI Infrastructure Summit about its next-generation zHBM 3D memory architectur. Article summary: Samsung presented zHBM as a longer-term “zero-distance” HBM architecture: rather than placing HBM beside an AI accelerator on a silicon interposer, as in current 2.5D packages, it would bond HBM directly above the accele. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
openai.com

AI 가속기의 연산 성능이 높아질수록, 문제는 ‘얼마나 빨리 계산하느냐’만이 아니다. 필요한 데이터를 메모리에서 가속기로 얼마나 빠르고 적은 전력으로 옮길 수 있는지가 AI 시스템의 응답성을 좌우한다.

삼성전자가 제시한 zHBM은 이 병목을 겨냥한 차세대 3D 메모리 구조다. 기존처럼 고대역폭 메모리(HBM)를 GPU 등 AI 가속기 옆에 놓는 대신, 가속기 바로 위에 수직으로 쌓는 방식이다. 삼성전자는 9월 16일(현지시간) 미국 캘리포니아주 샌타클래라에서 열린 AI 인프라 서밋에서 이를 AI 에이전트 시대의 응답성 향상 방안으로 제시하며, AI 시스템 응답 속도를 10배 이상 높이고 초당 1,000토큰에 도달하는 것을 목표로 내걸었다.1 9

기존 2.5D HBM 패키지와 무엇이 다른가

오늘날 HBM은 일반적으로 GPU 또는 다른 AI 가속기와 같은 평면에 배치되고, 첨단 패키징으로 연결된다. 이른바 2.5D 패키지 접근이다. 반면 zHBM은 HBM을 AI 가속기 위에 직접 올려 로직과 메모리를 3차원으로 통합한다.12 13

핵심은 데이터 이동 거리다. 물리적 거리가 짧아지면 대역폭과 전력 효율을 개선하고, 동일 면적에 더 많은 메모리 용량을 넣을 가능성이 커진다. 삼성전자는 이 수직 통합에 차세대 웨이퍼 본딩 기술과 하이브리드 구리 본딩(Hybrid Copper Bonding)을 적용한다고 설명했다.7 48

다만 zHBM은 현재 판매 중인 HBM 패키지를 곧바로 대체하는 제품이 아니다. 삼성전자는 이를 콘셉트 모델로 공개했으며, 상용화 일정은 아직 발표하지 않았다.13 14

삼성전자가 제시한 성능·효율 목표

삼성전자는 zHBM을 적용한 차세대 인터페이스 시스템의 목표치로 다음 수치를 제시했다.

HBM5 대비 약 8배 성능
기존 HBM5 대비 10배 초과 메모리 밀도
약 3배 에너지 효율
50% 초과 열저항 감소13 48

이 수치들은 상용 가속기에서 독립적으로 검증된 벤치마크가 아니라, 미래 아키텍처에 대한 삼성전자의 전망치라는 점을 구분해서 볼 필요가 있다. 메모리를 로직 칩 위에 직접 얹으려면 양산 수율, 발열 제어, 신뢰성 검증, 가속기 업체와의 통합 검증을 모두 통과해야 한다.

AI 에이전트에 왜 중요한가

AI 에이전트는 한 번 답변을 생성하는 데 그치지 않는다. 문맥을 반복적으로 불러오고, 추론하고, 도구를 호출하고, 결과를 다시 처리한다. 이 과정에서는 연산 유닛의 성능만큼이나 데이터가 오가는 속도가 중요하다.

zHBM의 전제는 HBM과 가속기의 거리를 줄여 데이터 전송 병목을 낮추고, 데이터 이동에 드는 전력도 줄일 수 있다는 것이다.1 7 다만 실제 서비스의 응답 속도가 삼성전자가 제시한 수준으로 개선될지는 메모리 배치만으로 결정되지 않는다. 가속기 설계, 소프트웨어, AI 모델 구조, 패키징 설계가 함께 맞물려야 한다.

zNAND-O: HBM과 다른 ‘용량’ 계층

삼성전자는 zHBM과 함께 zNAND-O도 공개했다. zNAND-O는 DRAM과 일반 NAND 플래시 사이에 놓이는 고성능·고용량 NAND 아키텍처다. DRAM보다 높은 비트 밀도를 제공하면서, 일반 NAND보다 I/O 성능·지연시간·전력 효율을 개선하는 방향으로 설계됐다.49 51

두 기술은 AI 메모리 계층에서 역할이 다르다.

zHBM: 가속기 가까이에서 가장 높은 대역폭이 필요한 활성 연산용 메모리 계층
zNAND-O: 모든 데이터와 모델을 DRAM에 둘 때의 비용 부담을 낮추기 위한 고밀도 용량 계층49 53

삼성전자는 1,200억 파라미터 GPT 모델 시험에서 zNAND-O가 기존 DRAM 서버와 같은 초당 토큰 처리 속도를 내면서 운영비는 6분의 1이었다고 밝혔다. 이는 삼성전자가 보고한 시험 결과이며, 모든 대규모 모델 배포 환경에서 동일한 비용 절감이 보장된다는 뜻은 아니다.54 55

회사는 2030년께 1조 파라미터급 온디바이스 AI가 의미 있는 과제가 될 수 있다고도 보고 있다.53

CXL은 HBM의 대체재가 아니라 보완재에 가까운가

AI 인프라 서밋에서는 메모리 용량이 늘어난다고 해서 모든 메모리가 같은 역할을 할 수 있는 것은 아니라는 점도 부각됐다.

오픈AI에서 AI 가속기 설계를 담당하는 대니얼 모리스 연구원은 실제 AI 모델을 구동하는 측면에서 CXL의 사용 사례를 찾지 못했다고 밝혔다. 다만 대형 모델에서 자주 쓰지 않는 비활성 데이터에는 활용 가능성이 있다고 봤다. 인텔의 비디아 티아가라잔 SoC 아키텍처 책임자도 CXL 메모리 풀링은 HBM 대체가 아니라 보조 저장장치를 보완하는 역할에 가깝다고 설명하며, CXL 연결 메모리와 HBM 사이의 대역폭 차이를 지적했다.18 22

이는 CXL이 불필요하다는 의미가 아니다. 향후 AI 시스템은 더 계층화될 가능성이 크다. 대역폭 민감도가 높은 활성 연산에는 가속기 근처의 HBM을 두고, CXL과 다른 메모리·스토리지 계층은 대용량 데이터 수용에 활용하는 구조다.

삼성전자와 SK하이닉스 경쟁에 던지는 메시지

단기적으로 HBM 경쟁력은 특정 가속기 플랫폼에 맞춰 메모리를 양산하고, 품질을 검증받고, 제때 공급하는 능력에서 갈린다. zHBM은 삼성전자에 차별화된 장기 아키텍처를 제시하지만, 수율·발열·신뢰성·고객사 통합 검증이라는 과제를 없애주지는 않는다.

CXL이 활성 AI 모델 실행에서 로컬 HBM을 대체하기 어렵다는 견해는, 가속기 인접형 고대역폭 메모리의 중요성이 계속된다는 해석으로 이어진다. 결국 경쟁의 핵심은 가장 공격적인 3D 메모리 청사진을 누가 먼저 내놓느냐만이 아니다. 첨단 패키징과 메모리 설계를 실제 고객사가 채택할 수 있는 검증된 양산 제품으로 누가 먼저 전환하느냐가 중요하다.18 33 36

정리

삼성전자의 메시지는 AI 성능의 한계가 이제 연산 처리량만의 문제가 아니라는 데 있다. 메모리 이동, 용량, 전력, 발열이 AI 인프라의 핵심 제약으로 부상했고, zHBM은 이를 줄이기 위해 HBM을 AI 가속기 위에 직접 적층하자는 제안이다. zNAND-O는 더 큰 AI 모델과 데이터를 비용 효율적으로 수용할 보조 용량 계층을 겨냥한다.

잠재적 개선 폭은 크지만, zHBM은 아직 콘셉트 단계다. 당장 구매자와 AI 인프라 설계자가 주목할 부분은 임박한 제품 출시보다 방향성이다. 앞으로의 AI 시스템은 더 전문화된 다층 메모리 구조와 수직 통합을 활용할 가능성이 높으며, 그중 최고 성능의 연산 경로에서는 HBM의 비중이 계속 클 것으로 보인다.13 14 18

Studio Global AI

연구를 계속하세요

이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.

Studio Global AI로 검색 및 팩트체크

사람들은 또한 묻습니다.