Thay vì dùng DDR truyền thống như các máy chủ trước đây, Nvidia sử dụng LPDDR5X gắn qua module SOCAMM (Small Outline Compression‑Attached Memory Modules). Cách tiếp cận này giúp tăng băng thông và giảm tiêu thụ điện năng cho khối lượng công việc AI .
Quy mô bộ nhớ trong hệ thống Rubin rất lớn đối với loại DRAM vốn xuất phát từ smartphone:
Bộ nhớ LPDDR trong máy chủ AI thường dùng để lưu các dữ liệu truy cập thường xuyên như KV cache của mô hình AI, giúp giảm việc di chuyển dữ liệu và tăng hiệu quả suy luận.
Nói cách khác, Nvidia đang đưa bộ nhớ kiểu smartphone vào trung tâm dữ liệu ở quy mô hyperscale.
Một số báo cáo phân tích thị trường cho rằng hệ thống Rubin có thể cần hơn 6.000 triệu GB LPDDR vào năm 2027 .
Để so sánh, nhu cầu LPDDR dự kiến từ hai hệ sinh thái smartphone lớn nhất thế giới là:
Tổng cộng khoảng 5.720 triệu GB — thấp hơn nhu cầu ước tính của riêng Rubin .
Các con số này là dự báo của ngành chứ không phải hướng dẫn chính thức từ Nvidia, nhưng chúng cho thấy quy mô thay đổi: một nền tảng AI có thể tiêu thụ bộ nhớ ngang hoặc lớn hơn cả hai “ông lớn” smartphone cộng lại.
Khối lượng công việc AI có nhu cầu khác với máy tính truyền thống. Các mô hình lớn cần:
LPDDR đáp ứng tốt các yêu cầu này vì băng thông cao nhưng tiêu thụ điện thấp hơn so với bộ nhớ máy chủ truyền thống. Do đó, các nhà thiết kế hạ tầng AI đang bắt đầu tích hợp LPDDR trực tiếp vào kiến trúc máy chủ.
Khi trung tâm dữ liệu AI mở rộng nhanh, điều này tạo ra sự cạnh tranh trực tiếp với smartphone cho cùng nguồn cung LPDDR — điều gần như chưa từng xảy ra trước đây.
Đối với hạ tầng AI, việc sử dụng LPDDR giúp xây dựng hệ thống suy luận dày đặc hơn và tiết kiệm năng lượng hơn, điều cần thiết để vận hành các dịch vụ AI tạo sinh ở quy mô lớn.
Tuy nhiên, nó cũng tạo ra một nút thắt mới: nguồn cung bộ nhớ trở thành yếu tố giới hạn.
Một số phân tích cho rằng việc Nvidia chuyển sang kiến trúc máy chủ dùng LPDDR có thể khiến giá bộ nhớ cho server tăng gấp đôi vào cuối năm 2026 khi nhu cầu AI tăng nhanh .
Điều đó có nghĩa là trong tương lai, việc xây dựng cụm AI có thể bị giới hạn không chỉ bởi GPU mà còn bởi khả năng tiếp cận bộ nhớ.
Trong nhiều năm, LPDDR gần như là “sân nhà” của smartphone và thiết bị di động. Khi các trung tâm dữ liệu AI bắt đầu mua số lượng lớn cùng loại chip, nguồn cung cho ngành di động trở nên căng thẳng hơn.
Một số báo cáo cho thấy nguồn cung DRAM công suất thấp toàn cầu đang thắt chặt, làm thay đổi cục diện cạnh tranh trên thị trường smartphone .
Những công ty lớn như Apple và Samsung thường vẫn đảm bảo được nguồn cung nhờ quy mô và sức mua lớn. Nhưng các nhà sản xuất nhỏ hơn — đặc biệt là những hãng không có hợp đồng dài hạn — có thể chịu rủi ro thiếu hụt cao hơn.
Khi bộ nhớ khan hiếm, tác động thường lan sang toàn bộ ngành điện tử.
Nhu cầu từ hạ tầng AI đã góp phần làm giá DRAM tăng mạnh, và tình trạng mất cân bằng cung cầu có thể kéo dài trong vài năm tới . Nếu năng lực sản xuất LPDDR tiếp tục chuyển sang phục vụ hệ thống AI có biên lợi nhuận cao hơn, các thiết bị tiêu dùng có thể phải đối mặt với chi phí linh kiện tăng.
Hệ quả có thể bao gồm:
Nói cách khác, cơn khát bộ nhớ của AI có thể gián tiếp ảnh hưởng đến giá của các thiết bị mà người tiêu dùng dùng hằng ngày.
Câu chuyện lớn hơn không chỉ là về một nền tảng Nvidia. Nó phản ánh sự thay đổi cấu trúc của toàn bộ hệ sinh thái bán dẫn.
Trong nhiều thập kỷ, điện tử tiêu dùng — đặc biệt là smartphone — là động lực chính của nhu cầu LPDDR. Nhưng giờ đây, các trung tâm dữ liệu AI đang nổi lên như một khách hàng khổng lồ mới.
Song song với đó, các nhà sản xuất bộ nhớ đang ưu tiên nhiều hơn cho các sản phẩm liên quan đến AI có biên lợi nhuận cao, bao gồm:
Việc phân bổ lại năng lực sản xuất này đang góp phần tạo nên tình trạng thiếu hụt bộ nhớ toàn cầu ảnh hưởng đến nhiều ngành công nghiệp .
Nền tảng Vera Rubin của Nvidia cho thấy một bước ngoặt lớn trong hạ tầng điện toán.
Nếu các dự báo hiện nay đúng, máy chủ AI sẽ sớm cạnh tranh trực tiếp với smartphone về nguồn cung LPDDR, thậm chí tiêu thụ nhiều hơn các hệ sinh thái di động lớn nhất thế giới.
Sự thay đổi này có thể biến AI thành yếu tố quyết định giá và nguồn cung của thị trường DRAM toàn cầu, ảnh hưởng từ trung tâm dữ liệu cho đến chiếc điện thoại trong túi người dùng.