Meta tái sử dụng DDR4 để mở rộng bộ nhớ máy chủ AI bằng CXL

Meta không giải bài toán thiếu và đắt đỏ của DRAM bằng một đầu chuyển đơn giản để cắm thanh DDR4 cũ vào bo mạch chủ chỉ hỗ trợ DDR5. Thay vào đó, hãng tách thanh nhớ còn dùng được khỏi máy chủ đã hết vòng đời.

Trong thiết kế Vistara, DDR4 thu hồi được đặt phía sau một ASIC (chip chuyên dụng) Compute Express Link, hay CXL. Nhờ vậy, máy chủ thế hệ mới dùng DDR5 có thể nhìn thấy số DDR4 này như một tầng dung lượng bổ sung, dù chậm hơn. Meta cho biết với một số tác vụ suy luận AI bị giới hạn chủ yếu bởi dung lượng bộ nhớ, cách làm này có thể giảm tới 25% số máy chủ cần dùng. 1

Không phải đầu chuyển DDR4 sang DDR5

DDR4 và DDR5 là hai thế hệ bộ nhớ khác nhau; phương án Meta công bố không phải là chuyển đổi trực tiếp giữa hai loại khe cắm. Các RDIMM DDR4 cũ được lắp vào một thiết bị bộ nhớ riêng, rồi thiết bị đó kết nối với máy chủ qua CXL.

Vistara là bộ mở rộng bộ nhớ CXL 2.0/1.1 Type-3, dùng liên kết PCIe Gen5 x16 để nối DDR4 với bộ xử lý của máy chủ. Mỗi ASIC tích hợp hai kênh DDR4 và có thể hỗ trợ tối đa 256 GB nếu dùng DIMM 64 GB. 29

Kiến trúc này cho phép máy chủ mới vẫn dùng DDR5 gắn trực tiếp với CPU, đồng thời có thêm dung lượng từ DDR4 thu hồi. Thay vì mua DRAM mới đủ cho mức dung lượng đỉnh của mọi máy chủ, nhà vận hành có thể dùng tầng bộ nhớ CXL khi việc tăng dung lượng đem lại giá trị rõ rệt.

Phần mềm quyết định hiệu quả của phần cứng

DDR4 qua CXL không thể thay thế DDR5 cục bộ trong các đường xử lý nhạy với độ trễ hoặc băng thông. Theo thông tin về triển khai thực tế của Meta, tầng mở rộng này có băng thông chỉ khoảng một phần mười DDR5 cục bộ và độ trễ cao hơn khoảng 60%. 4

Vì thế, hệ thống xem dung lượng CXL như một tầng nhớ riêng theo kiểu NUMA — kiến trúc mà thời gian truy cập bộ nhớ thay đổi tùy vị trí dữ liệu. Dữ liệu “nóng”, thường xuyên truy cập hoặc nhạy độ trễ được giữ ở DDR5; các trang dữ liệu ít dùng hơn có thể chuyển sang tầng DDR4 rẻ hơn. 413

Nói ngắn gọn, đây là bộ nhớ phân tầng:

• DDR5 cục bộ: dành cho dữ liệu đang hoạt động, đòi hỏi phản hồi nhanh.
• DDR4 thu hồi, gắn qua CXL: bổ sung dung lượng cho dữ liệu chịu được băng thông thấp hơn và độ trễ cao hơn.
• Chính sách của hệ điều hành và ứng dụng: quyết định dữ liệu nào nằm ở mỗi tầng.

Lợi ích kinh tế không đến từ việc làm DDR4 nhanh hơn, mà từ việc một máy chủ chứa được nhiều dữ liệu hữu ích hơn, nhờ đó một khối lượng công việc phù hợp cần ít máy hơn.

Meta đã báo cáo những mức cải thiện nào?

Meta cho biết giải pháp mở rộng bộ nhớ CXL của họ đã được triển khai trên hàng triệu máy chủ và có thể giảm tới 25% số máy chủ cần thiết cho một số tác vụ suy luận phân tách. 1

Đây là kết quả về hiệu quả vận hành cả cụm máy chủ, không phải tuyên bố rằng DDR4 cũ có tốc độ cao hơn. Khi một tác vụ cần ít máy hơn vì mỗi máy có nhiều bộ nhớ hữu dụng hơn, nhà vận hành cũng có thể giảm phần nào nhu cầu về CPU, phần cứng mạng, không gian rack và điện năng đi kèm. Tuy nhiên, không nên áp dụng con số này cho mọi loại tác vụ AI: các tác vụ bị chi phối bởi băng thông hoặc độ trễ bộ nhớ có thể hưởng lợi ít, hoặc đòi hỏi chính sách đặt dữ liệu chặt chẽ hơn.

Meta cũng báo cáo thời gian xử lý truy vấn trung bình giảm 29% ở một tác vụ bộ nhớ đệm phân tán cụ thể sau khi bổ sung dung lượng từ tầng này. Điều đó cho thấy thêm bộ nhớ có thể cải thiện hiệu quả cache trong những trường hợp phù hợp. 15

Google và các hãng siêu quy mô khác làm gì?

Các báo cáo công khai cho thấy Google cũng đang thu hồi DDR4 từ máy chủ ngừng hoạt động để tái sử dụng khi nguồn cung DRAM thắt chặt. Tuy vậy, chi tiết kỹ thuật công khai về cách Google triển khai hiện ít hơn đáng kể so với những gì Meta đã tiết lộ về Vistara. 14

Điểm chung là các nhà vận hành siêu quy mô — tức các hãng vận hành hạ tầng đám mây và trung tâm dữ liệu ở quy mô rất lớn — sở hữu lợi thế mà doanh nghiệp nhỏ thường không có: kho DIMM tương thích, đã mua từ trước, lấy ra từ một đội máy chủ khổng lồ. Mở rộng hoặc gom nhóm bộ nhớ dựa trên CXL giúp họ biến lượng tồn kho này thành dung lượng có ích thay vì thành rác thải điện tử.

Vì sao DDR4 thu hồi trở nên đáng giá?

Động lực chính là đợt siết nguồn cung bộ nhớ do AI dẫn dắt. Giá hợp đồng của DRAM thông dụng được cho là đã tăng 90–95% theo quý trong quý I năm 2026. 1 J.P. Morgan Global Research ước tính giá DRAM vào cuối năm 2026 sẽ cao hơn hơn 400% so với đầu năm 2024. 20

Bộ nhớ cũng chiếm tỷ trọng ngày càng lớn trong chi tiêu hạ tầng đám mây. Một dự báo dựa trên TrendForce cho rằng DRAM và NAND cộng lại có thể chiếm 68% chi tiêu vốn phần cứng của các nhà cung cấp đám mây lớn vào năm 2027, tăng từ 47% năm 2026. 18

Trong bối cảnh đó, DIMM thu hồi không chỉ là lựa chọn giảm rác thải điện tử. Nó còn là một đơn vị dung lượng chiến lược mà nhà vận hành không phải mua trong thị trường giao ngay hoặc thị trường hợp đồng đang căng thẳng.

Vì sao thêm nhà máy vẫn chưa thể nhanh chóng giải tỏa thiếu hụt?

Hạ tầng AI làm tăng nhu cầu với cả DRAM máy chủ thông thường lẫn HBM, tức bộ nhớ băng thông cao dùng trong các hệ thống AI. Các nhà cung cấp đang ưu tiên năng lực sản xuất cho HBM, khiến nguồn cung của những dòng bộ nhớ khác bị siết lại. 1920

Ngay cả khi đầu tư lớn, xây dựng và đưa công suất bán dẫn mới vào vận hành đủ chuẩn cần nhiều thời gian. Deloitte nhận định nguồn cung bổ sung từ các kế hoạch mở rộng hiện tại chưa được kỳ vọng xuất hiện trước năm 2029 hoặc 2030.

Rủi ro còn lớn hơn do nguồn cung tập trung. Theo Reuters, Samsung và SK Hynix cộng lại kiểm soát khoảng hai phần ba thị trường DRAM, khiến ngành có ít dư địa dự phòng hơn khi nhu cầu tăng đột biến hoặc sản xuất bị gián đoạn.

CEO SK Hynix Kwak Noh-jung dự báo tình trạng thiếu hụt nghiêm trọng nhất của ngành có thể rơi vào năm 2027, đồng thời nói nhu cầu khách hàng có thể vượt năng lực sản xuất của công ty sau năm 2030. Đây là dự báo của một lãnh đạo doanh nghiệp, không phải điều chắc chắn; nhưng nó lý giải vì sao các hãng siêu quy mô đang đầu tư vào tái sử dụng, phân tầng và tách rời bộ nhớ ngay từ bây giờ, thay vì chỉ chờ công suất fab mới.

Bài học cho đội ngũ hạ tầng

Mô hình của Meta chỉ thực sự hấp dẫn khi hội đủ ba điều kiện: nhà vận hành có lượng bộ nhớ cũ đáng kể, nền tảng hỗ trợ mở rộng CXL và tác vụ chấp nhận được một tầng bộ nhớ thứ hai chậm hơn rõ rệt.

Trong các trường hợp đó, DDR4 cũ có thể trở lại thành dung lượng hữu ích. Nhưng với tác vụ cực kỳ nhạy độ trễ, đây vẫn không phải vị trí phù hợp cho dữ liệu “nóng”. Đổi mới cốt lõi không phải một đầu chuyển: đó là thiết kế toàn hệ thống kết hợp bộ điều khiển CXL, DIMM thu hồi và phần mềm đặt dữ liệu để biến bộ nhớ thế hệ cũ thành tài nguyên có thể quản lý.