Câu trả lờiĐã xuất bản2 tuần trướcLast edited tuần trước16 nguồn

Jensen Huang: Rào cản lớn nhất của AI lúc này là bộ nhớ, không phải GPU

Jensen Huang nói tại Dell World rằng bộ nhớ — đặc biệt là high‑bandwidth memory (HBM) — hiện là nút thắt lớn nhất trong chuỗi cung ứng AI, ảnh hưởng trực tiếp đến tốc độ triển khai các hệ thống Nvidia H200 và kiến trú... Nguồn cung HBM hạn chế có thể làm chậm việc xây dựng trung tâm dữ liệu AI, đẩy chi phí phần cứng...

Tìm kiếm và kiểm chứng sự thật với Studio Global AI Duyệt thêm trang xu hướng

1.4M0

Illustration of Nvidia AI GPUs connected to stacked high‑bandwidth memory chips representing the AI memory supply bottleneck — What did Jensen Huang say at Dell World about memory being the biggest AI supply constraint, how does the high-bandwidth memory shortage affAdvanced AI accelerators rely on stacked high‑bandwidth memory (HBM), which has become one of the biggest constraints on scaling AI infrastructure.
Prompt AI
Create a landscape editorial hero image for this Studio Global article: What did Jensen Huang say at Dell World about memory being the biggest AI supply constraint, how does the high-bandwidth memory shortage aff. Article summary: Jensen Huang’s message at Dell World was that AI demand is no longer constrained mainly by GPUs alone; memory, especially high-bandwidth memory, is becoming the key supply bottleneck. That matters because HBM availabilit. Topic tags: general, general web, user generated. Reference image context from search candidates: Reference image 1: visual subject "* Jensen Huang Weighs In on a Prolonged Memory Shortage as the AI Boom Continues, With Bubble Fears Still Lingering. Nvidia CEO Jensen Huang Directly Flags an AI Memory Supply Crun" source context "Jensen Huang Weighs In on a Prolonged Memory Shortage as the ..." Reference image 2: visual subject "* Jensen Huang
openai.com

Nhu cầu trí tuệ nhân tạo (AI) trên toàn cầu vẫn đang tăng mạnh. Tuy nhiên theo CEO Nvidia Jensen Huang, rào cản lớn nhất đối với sự phát triển của AI hiện nay không còn là GPU mà là bộ nhớ.

Tại sự kiện Dell World ở Las Vegas, Huang cho biết các giới hạn của chuỗi cung ứng vẫn là nút thắt chính của ngành AI, và trong toàn bộ hệ thống phần cứng, bộ nhớ đang là yếu tố hạn chế lớn nhất. Nhận định này cho thấy cuộc đua hạ tầng AI đang dần chạm đến giới hạn vật lý mới trong sản xuất bán dẫn.

Bộ nhớ trở thành “nút thắt cổ chai” mới của AI

Các bộ tăng tốc AI hiện đại sử dụng high‑bandwidth memory (HBM) — một loại DRAM xếp chồng cho phép truyền dữ liệu giữa GPU và bộ nhớ với tốc độ cực cao. Những GPU mới nhất của Nvidia như H200 hay các hệ thống dựa trên kiến trúc Blackwell đều phụ thuộc rất nhiều vào loại bộ nhớ này.

Khi các mô hình AI ngày càng lớn và phức tạp, chúng cần băng thông và dung lượng bộ nhớ cao hơn rất nhiều. Jensen Huang từng nhấn mạnh rằng hiệu năng AI trong tương lai sẽ phụ thuộc vào bộ nhớ gần như ngang với sức mạnh tính toán.

Điều này tạo ra một giới hạn mới cho ngành. Ngay cả khi nhu cầu GPU cực kỳ lớn, Nvidia vẫn không thể giao một hệ thống tăng tốc AI hoàn chỉnh nếu thiếu HBM.

Nói cách khác, số lượng chip AI có thể đến tay khách hàng hiện phụ thuộc trực tiếp vào lượng bộ nhớ tiên tiến mà thị trường có thể sản xuất.

Vì sao thiếu HBM ảnh hưởng đến toàn bộ ngành AI

Trên thế giới hiện chỉ có một số ít công ty sản xuất HBM ở quy mô lớn, bao gồm . Sự bùng nổ xây dựng trung tâm dữ liệu AI đã khiến nhu cầu với loại bộ nhớ này tăng vọt.

Studio Global AI

Search, cite, and publish your own answer

Use this topic as a starting point for a fresh source-backed answer, then compare citations before you share it.

Tìm kiếm và kiểm chứng sự thật với Studio Global AI

Người ta cũng hỏi

Câu trả lời ngắn gọn cho "Jensen Huang: Rào cản lớn nhất của AI lúc này là bộ nhớ, không phải GPU" là gì?

Những điểm chính cần xác nhận đầu tiên là gì?

Tôi nên làm gì tiếp theo trong thực tế?

Huang cũng bày tỏ lạc quan rằng thị trường Trung Quốc có thể mở lại cho chip AI của Mỹ, nhưng việc bán H200 vẫn chưa chắc chắn dù đã có một số giấy phép từ phía Mỹ.

Nguồn

Comments

0 comments

Loading comments...