RespostasPublicado26 fontes
Samsung zHBM: por que empilhar memória diretamente sobre chips de IA pode mudar a arquitetura dos aceleradores
A Samsung afirma que a zHBM pode elevar em mais de 10 vezes a velocidade de resposta de sistemas de IA ao posicionar a HBM diretamente sobre o acelerador. Para uma futura interface com zHBM, a empresa projeta cerca de 8 vezes o desempenho da HBM5, mais de 10 vezes a densidade de memória, 3 vezes a eficiência energét...
Publicado porEditado com GPT-5.6 TerraImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- A Samsung afirma que a zHBM pode elevar em mais de 10 vezes a velocidade de resposta de sistemas de IA ao posicionar a HBM diretamente sobre o acelerador.
- Para uma futura interface com zHBM, a empresa projeta cerca de 8 vezes o desempenho da HBM5, mais de 10 vezes a densidade de memória, 3 vezes a eficiência energética e mais de 50% menos resistência térmica.
- Pesquisadores da OpenAI e da Intel disseram que a CXL tende a servir como camada complementar de capacidade, e não como substituta da HBM na execução ativa de modelos de IA.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Samsung Electronics reveal at the September 16, 2026, AI Infrastructure Summit about its next-generation zHBM 3D memory architectur. Article summary: Samsung presented zHBM as a longer-term “zero-distance” HBM architecture: rather than placing HBM beside an AI accelerator on a silicon interposer, as in current 2.5D packages, it would bond HBM directly above the accele. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
A Samsung propôs, com a zHBM, reduzir drasticamente a distância física entre o processamento de IA e sua memória mais rápida. Em vez de instalar a memória de alta largura de banda (HBM, na sigla em inglês) ao lado de uma GPU ou outro acelerador, a ideia é colocá-la diretamente sobre o processador, em um encapsulamento 3D integrado verticalmente. No AI Infrastructure Summit, realizado em 16 de setembro em Santa Clara, nos Estados Unidos, a empresa apresentou a arquitetura como um caminho para sistemas de IA baseada em agentes mais ágeis. 1
9
O que muda em relação aos pacotes HBM atuais?
Nos pacotes convencionais, a HBM costuma ficar ao lado do acelerador, no mesmo plano, ligada por tecnologias avançadas de encapsulamento — uma configuração frequentemente chamada de 2.5D. Na zHBM, a memória ficaria sobre o acelerador de IA. Na prática, a Samsung quer aproximar lógica e memória em uma estrutura tridimensional. 12
13
A tese é simples: com um caminho menor para os dados percorrerem, a arquitetura pode aumentar a largura de banda, reduzir o gasto de energia na movimentação de informações e ampliar a capacidade de memória no mesmo espaço físico. A Samsung diz que pretende usar tecnologias de união de wafers de próxima geração, incluindo hybrid copper bonding (união híbrida de cobre), para viabilizar essa integração vertical. 7
48
Por enquanto, trata-se de uma arquitetura em estágio de conceito, não de uma substituta imediata para todos os pacotes HBM existentes. A Samsung exibiu a zHBM como modelo conceitual e ainda não divulgou um cronograma de comercialização. 13
14
As metas de desempenho e eficiência da Samsung
Para uma interface de próxima geração com zHBM, a Samsung projeta:
- cerca de 8 vezes o desempenho da HBM5;
- mais de 10 vezes a densidade de memória da HBM5 convencional;
- aproximadamente 3 vezes a eficiência energética;
- mais de 50% de redução na resistência térmica.
13
48
No AI Infrastructure Summit, a empresa também afirmou que a zHBM poderia elevar em mais de dez vezes a velocidade de resposta dos sistemas de IA, com a ambição de chegar a 1.000 tokens por segundo. 1
9
Esses números são projeções da companhia para uma arquitetura futura, e não resultados independentes de um acelerador comercial já disponível. Empilhar memória diretamente sobre a lógica exige resolver desafios relevantes de produção em escala, rendimento de fabricação, dissipação de calor, confiabilidade e validação junto a parceiros fabricantes de aceleradores.
Por que isso interessa à IA baseada em agentes
A Samsung associou a zHBM à IA de agentes: sistemas que precisam consultar contexto repetidamente, executar inferências, acionar ferramentas e gerar respostas. Nesses casos, adicionar mais poder de processamento não elimina o atraso se o acelerador estiver esperando pela chegada dos dados.
A zHBM tenta atacar justamente esse gargalo de memória e transferência de dados. Ao reduzir a distância até o acelerador, a proposta pode tornar a IA mais responsiva e tornar a movimentação de informações mais eficiente em energia. 1
7 Mas o ganho final dependerá do conjunto: acelerador, software, modelo, arquitetura do sistema e encapsulamento — e não apenas da posição da memória.
zNAND-O seria a camada de capacidade complementar
A Samsung apresentou a zHBM ao lado da zNAND-O, uma arquitetura NAND de alto desempenho voltada a cenários de IA de borda e cargas intensivas em dados. A zNAND-O é posicionada entre a DRAM e o armazenamento NAND convencional: a proposta é oferecer mais densidade que a DRAM, além de melhorar desempenho de entrada e saída, latência e eficiência energética em relação à NAND tradicional. 49
51
As duas tecnologias ocupam posições diferentes na hierarquia de memória:
- zHBM: camada mais rápida, próxima ao acelerador e voltada à computação mais sensível à largura de banda;
- zNAND-O: camada mais densa para dados e modelos que seriam caros demais para manter inteiramente em DRAM.
49
53
A Samsung citou um teste com um modelo GPT de 120 bilhões de parâmetros no qual a zNAND-O teria alcançado a mesma taxa de tokens por segundo de um servidor convencional com DRAM, a um sexto do custo operacional. É um resultado de teste reportado pela própria companhia, não uma garantia geral de custo para implantações de modelos grandes. 54
55
A empresa também relaciona a zNAND-O ao desafio de executar modelos muito grandes no próprio dispositivo, afirmando que a IA on-device em escala de trilhões de parâmetros pode se tornar relevante até 2030. 53
CXL não deve substituir a HBM na execução ativa de IA
O encontro em Santa Clara também reforçou uma distinção importante: ter mais capacidade de memória não torna todas as tecnologias equivalentes.
Daniel Morris, pesquisador de aceleradores da OpenAI, disse não ter encontrado um caso de uso para CXL — padrão de interconexão Compute Express Link — na execução de modelos de IA. Ele apontou valor potencial para dados pouco usados em modelos grandes. Vidia Thiagarajan, da Intel, também classificou o agrupamento de memória por CXL como complemento ao armazenamento secundário, e não como substituto da HBM, devido à diferença de largura de banda entre a memória conectada por CXL e a HBM. 18
22
Isso não significa que a CXL não terá espaço. A tendência é uma arquitetura em camadas: HBM junto ao acelerador para a computação ativa e sensível à largura de banda; CXL e outras camadas de memória ou armazenamento para ampliar capacidade e acomodar dados menos acessados.
O que isso representa para Samsung e SK hynix
No curto prazo, a disputa pela HBM continua dependendo da capacidade de fabricar, qualificar e entregar memória compatível com plataformas específicas de aceleradores. A zHBM dá à Samsung uma proposta diferenciada de longo prazo, mas não elimina a necessidade de comprovar rendimento produtivo, comportamento térmico, confiabilidade e integração com clientes.
Para o mercado de HBM, a visão de que CXL não deve substituir a memória local na execução ativa de modelos reforça o peso da HBM próxima ao acelerador. A questão competitiva, portanto, não é apenas quem apresenta o conceito 3D mais agressivo, mas quem consegue transformar projetos avançados de memória e encapsulamento em produtos qualificados e fabricados em volume primeiro. 18
33
36
Em resumo
A mensagem da Samsung é que o desempenho em IA está cada vez mais limitado pela movimentação de dados, capacidade de memória, consumo de energia e calor — não somente pela capacidade de cálculo. A zHBM propõe atacar esses limites com memória HBM empilhada diretamente sobre o acelerador, enquanto a zNAND-O acrescentaria uma camada mais densa para modelos e cargas maiores.
O potencial anunciado é expressivo, mas as métricas ainda são metas para uma tecnologia conceitual. Para empresas que planejam infraestrutura de IA, o principal sinal não é a chegada iminente de um produto zHBM: é a direção da indústria, com camadas de memória cada vez mais especializadas e integradas verticalmente, e com a HBM permanecendo central no caminho de maior desempenho. 13
14
18
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "Samsung zHBM: por que empilhar memória diretamente sobre chips de IA pode mudar a arquitetura dos aceleradores"?
A Samsung afirma que a zHBM pode elevar em mais de 10 vezes a velocidade de resposta de sistemas de IA ao posicionar a HBM diretamente sobre o acelerador.
Quais são os pontos-chave para validar primeiro?
A Samsung afirma que a zHBM pode elevar em mais de 10 vezes a velocidade de resposta de sistemas de IA ao posicionar a HBM diretamente sobre o acelerador. Para uma futura interface com zHBM, a empresa projeta cerca de 8 vezes o desempenho da HBM5, mais de 10 vezes a densidade de memória, 3 vezes a eficiência energética e mais de 50% menos resistência térmica.
O que devo fazer a seguir na prática?
Pesquisadores da OpenAI e da Intel disseram que a CXL tende a servir como camada complementar de capacidade, e não como substituta da HBM na execução ativa de modelos de IA.
Fontes
asiae.co.kr"Opening the Era of 1,000 Tokens per Second"…Samsung Electronics Drives AI Semiconductor Innovation with zHBM
en.sedaily.comSamsung Touts 10-Fold AI Speed Gain With Stacked zHBM Memory
koreaherald.comSamsung stacks HBM atop AI chips in 3D memory push