Как Samsung собирается превратить HBM в 3D-память для ИИ

Стратегия Samsung в области HBM развивается по принципу постепенного переноса «интеллекта» ближе к памяти. Сначала компания хочет переместить функции управления и интерфейса в логический базовый кристалл HBM. Затем этот кристалл должен получить средства мониторинга, расширения памяти и выборочной обработки данных. Финальный этап — zHBM, архитектура, в которой процессор размещается непосредственно под стеком DRAM в настоящей 3D-компоновке. 1713

Важно отделять архитектурные планы от подтверждённых характеристик. Показатели вроде «в восемь раз выше производительность» относятся к будущим целям Samsung и не являются результатами независимых испытаний серийного продукта.

Дорожная карта в одном взгляде

Этап	Главное изменение	Ожидаемый эффект
Этап 1: custom HBM (cHBM)	Контроллер памяти и более компактный межкристальный интерфейс переносятся в логический базовый кристалл HBM	Освобождение площади ускорителя и снижение затрат на передачу данных
Этап 2: advanced HBM (aHBM)	В базовый кристалл добавляются телеметрия, контроллеры расширения памяти и отдельные вычислительные элементы	Более эффективное управление памятью, увеличение доступной ёмкости и обработка данных ближе к месту их хранения
Этап 3: zHBM	Стек DRAM размещается непосредственно над ИИ-ускорителем	Более короткий путь передачи данных и более плотное вертикальное соединение

Так меняется сама роль базового кристалла. В обычной HBM он в основном отвечает за соединение и управление. В концепции Samsung это постепенно превращается в полноценную логическую подсистему, а в конечном счёте — в часть вертикально интегрированной вычислительно-памятной структуры. 182027

Этап 1: cHBM освобождает площадь ИИ-ускорителя

Отправной точкой Samsung называет HBM4 с памятью 1c DRAM и 4-нм логическим базовым кристаллом. По данным компании, HBM4 может обеспечивать скорость до 13 Гбит/с и пропускную способность до 3300 ГБ/с на стек. Эти параметры относятся к продукту HBM4, а не к будущей архитектуре zHBM. 3537

На первом этапе Samsung предлагает заменить традиционный, более крупный физический интерфейс HBM на ускорителе компактным межкристальным интерфейсом. Функции контроллера памяти при этом переносятся с ИИ-ускорителя в базовый кристалл HBM. 1720

У такого подхода два потенциальных преимущества:

• Больше места на ускорителе. Площадь, ранее занятая контроллером памяти и интерфейсной логикой, может быть использована для вычислительных блоков, кэша или специализированных функций.
• Меньше электрический путь. Перенос части логики в базовый кристалл способен сократить расстояние и накладные расходы при обмене данными между ускорителем и HBM, повысив энергоэффективность интерфейса. 13

В отдельных публикациях упоминается возможное освобождение 5–10% площади ускорителя и прирост производительности на 10–20%. Однако это оценки из материалов дорожной карты, а не универсальный результат, который можно автоматически распространить на любой ИИ-процессор. 1729

Этап 2: aHBM превращает базовый кристалл в активную подсистему

На втором этапе свободная площадь базового кристалла используется для новых функций. Концепция aHBM предусматривает датчики и телеметрию в реальном времени — в частности, для контроля температуры и напряжения, а также функции повышения надёжности и самотестирования. Такие данные могут помочь системе точнее реагировать на условия работы и лучше контролировать состояние стека памяти. 182728

Базовый кристалл также может выполнять роль интерфейса расширения памяти, подключая дополнительные HBM или другие типы памяти, например LPDDR. Это даст разработчикам ещё один способ увеличить доступный объём памяти, не ограничиваясь только локальным стеком HBM. 182829

Кроме того, Samsung предлагает разместить в базовом кристалле вычислительные элементы. Они не должны заменять универсальный GPU или специализированный ускоритель. Их задача — выполнять отдельные операции, интенсивно работающие с памятью, непосредственно рядом с данными. Это потенциально сокращает обмен через корпус и повышает эффективность использования памяти. 61927

Таким образом, aHBM — переходный этап. HBM по-прежнему располагается рядом с процессором в 2,5D-компоновке, но базовый кристалл начинает работать как интеллектуальная подсистема ввода-вывода и обработки данных.

Этап 3: zHBM объединяет память и вычисления по вертикали

zHBM — наиболее радикальная часть плана Samsung. В традиционной упаковке HBM процессор и стеки памяти находятся рядом друг с другом на интерпозере. В концепции zHBM процессор размещается непосредственно под стеком DRAM, формируя настоящую 3D-структуру. 3732

Такое расположение должно сократить путь передачи данных и заменить крупный интерфейс по краю кристалла более плотными распределёнными вертикальными соединениями. В теории это может обеспечить:

• более высокую пропускную способность благодаря значительно более широкому соединению;
• меньшие энергозатраты на ввод-вывод, поскольку сигнал проходит более короткое расстояние;
• более эффективную подачу данных для обучения и работы ИИ-моделей;
• уменьшение боковых размеров корпуса, поскольку стекам HBM больше не нужно располагаться вокруг процессора. 13732

Поэтому zHBM — это не просто «более быстрая HBM». Архитектура меняет физическую связь между памятью и вычислительным блоком. Итоговый эффект будет зависеть не только от скорости DRAM, но и от топологии корпуса, дизайна интерфейса, подачи питания, охлаждения и особенностей конкретной нагрузки.

Как заявленные цели соотносятся с HBM5

Samsung использует разные исходные точки и метрики, поэтому приведённые значения нельзя считать единым сопоставимым тестом:

• HBM5 по сравнению с HBM4E: цель — удвоить производительность, повысить производительность на ватт на 20% и снизить тепловое сопротивление на 20%. В ряде публикаций массовое производство относят примерно к 2028 году, однако HBM5 пока остаётся будущим поколением дорожной карты, а не широко утверждённым серийным стандартом. 4101214
• zHBM по сравнению с HBM4E в сравнении, ориентированном на Hot Chips: сообщается примерно о 70%-ном снижении энергопотребления DRAM и более чем двукратном росте пропускной способности — свыше 2,3 раза. 111
• Долгосрочные цели zHBM: Samsung также указывала до восьмикратного роста производительности, трёхкратный рост производительности на ватт и снижение теплового сопротивления на 75–90% по сравнению с HBM4E. 21314

Разница между «2,3 раза больше пропускная способность» и «в восемь раз выше производительность» сама по себе не означает противоречия. Пропускная способность, энергопотребление DRAM, производительность приложения и производительность на ватт — разные показатели, которые могут измеряться в разных конфигурациях. В представленных материалах недостаточно методики, чтобы независимо свести все цифры в один результат, поэтому их следует воспринимать как цели архитектуры, а не как единый бенчмарк. 11014

Как zHBM вписывается в стратегию CUBE

Samsung описывает CUBE как стратегию, основанную на четырёх направлениях: Capacity — ёмкость, Utilization — эффективность использования, Bandwidth — пропускная способность и Efficiency — энерго-тепловая эффективность. По логике компании, для ИИ уже недостаточно просто ускорять интерфейсы памяти: данные нужно размещать и использовать более рационально, в том числе в трёх измерениях. 257

Три этапа HBM соответствуют этим целям:

• Ёмкость: расширение памяти через базовый кристалл может подключать дополнительные уровни памяти, а вертикальная укладка повышает плотность без пропорционального увеличения площади корпуса. 418
• Использование: телеметрия, управляющая логика и выборочная обработка рядом с памятью могут сделать существующую ёмкость и пропускную способность полезнее для конкретных задач. 1827
• Пропускная способность: вертикальные соединения сокращают расстояние между вычислительным блоком и памятью и создают возможности для более плотного ввода-вывода. 37
• Эффективность: сокращение передачи данных и интерфейсных накладных расходов способно снизить энергопотребление, а расширенный тепловой мониторинг — помочь системе работать ближе к предельным режимам. 1511

В этом смысле zHBM — наиболее наглядное воплощение подхода Samsung к памяти по оси Z: увеличивать плотность и сокращать коммуникационный путь за счёт вертикальной сборки, а не продолжать расширять боковую 2,5D-компоновку. 713

Какие проблемы ещё предстоит решить

Тепловыделение

Размещение мощного процессора под стеком DRAM усложняет отвод тепла: вычислительный кристалл оказывается дальше от системы охлаждения, тогда как память должна работать в достаточно ограниченном температурном диапазоне. Поэтому заявленное Samsung снижение теплового сопротивления — это инженерная цель, а не автоматическое преимущество любой 3D-укладки. Компании и её производственным партнёрам ещё предстоит показать, что производительность, надёжность памяти и требования к охлаждению можно совместить в серийном корпусе. 1419

Соединение, совмещение и выход годных изделий

Настоящая 3D-структура требует исключительно точного соединения и выравнивания больших поверхностей. Утончение пластин, интеграция TSV, контроль деформаций, управление дефектами и высокопроизводительное соединение кристаллов становятся критически важными. Дефект в процессоре или памяти может снизить ценность всего готового модуля, поэтому возрастает роль тестирования заведомо исправных кристаллов, резервирования, ремонта и проверки после соединения. Упоминание Samsung о расширенных функциях надёжности и самотестирования в базовом кристалле показывает, насколько тесно в этой архитектуре связаны упаковка и контроль качества. 2728

Питание и целостность сигналов

Даже очень широкий вертикальный интерфейс требует стабильного питания, точной синхронизации, тактирования и контроля помех. Теоретически высокая пропускная способность не гарантирует более высокую производительность приложений, если длительную работу ограничивают качество сигнала, перегрев или ограничения системы питания.

Высота стека и механические ограничения

Увеличение числа вертикальных слоёв может привести к росту толщины корпуса, механических напряжений и сложности охлаждения. Финальная конструкция должна найти баланс между ёмкостью и пропускной способностью, с одной стороны, и высотой стека, деформациями, технологичностью, подложкой и системной платой — с другой.

Совместная разработка процессора и памяти

Стандартную HBM можно интегрировать относительно модульно. aHBM, а особенно zHBM требуют гораздо более тесной координации между ускорителем, логикой базового кристалла, корпусом, прошивкой, средой выполнения и программным стеком. Совместно должны проектироваться интерфейсы, распределение функций управления, согласованность данных, обработка ошибок и операции рядом с памятью. Это может повысить специализацию системы, но одновременно снизить взаимозаменяемость по сравнению с обычными решениями на базе HBM.

Сроки и экосистема

zHBM остаётся будущей концепцией, а публикации относят её коммерциализацию к периоду после 2029 года. Сроки и заявленные показатели будут зависеть от зрелости упаковки, принятия технологии заказчиками, стандартов, выхода годных изделий и стоимости. 8914

Главное

Дорожную карту Samsung лучше всего понимать как последовательное превращение базового кристалла HBM из вспомогательного слоя в активного партнёра вычислительного процессора:

1. cHBM освобождает площадь ускорителя и переносит часть интерфейсных и управляющих функций в HBM.
2. aHBM превращает базовый кристалл в контролируемую, расширяемую и частично программируемую подсистему памяти.
3. zHBM физически объединяет вычисления и память, размещая процессор под стеком DRAM.

Потенциальная выгода значительна: меньше энергозатрат на ввод-вывод, больше полезной площади ускорителя, более плотная пропускная способность и лучшая производительность на ватт. Но на финальном этапе основные сложности смещаются от проектирования интерфейса памяти к тепловой инженерии, соединению кристаллов, выходу годных изделий, тестированию и совместному проектированию всей системы. На данный момент zHBM — амбициозное направление, подкреплённое целевыми показателями, но ещё не доказательство того, что серийный 3D-модуль для ИИ сможет их обеспечить.