Meta menghidupkan semula DDR4 lama sebagai memori pelayan AI melalui CXL

Meta tidak menggunakan penyesuai ringkas untuk memasukkan DIMM DDR4 lama ke papan induk baharu yang hanya menyokong DDR5. Sebaliknya, syarikat itu memisahkan modul memori yang masih berguna daripada pelayan lama tempat modul tersebut berasal.

Reka bentuk Vistara meletakkan DDR4 yang dipulihkan di belakang ASIC (cip khusus) pengembang memori Compute Express Link, atau CXL. Dengan itu, hos moden berasaskan DDR5 melihat DDR4 tersebut sebagai lapisan kapasiti memori berasingan yang lebih perlahan. Bagi beban kerja yang lebih terhad oleh kapasiti memori berbanding kependaman, Meta menyatakan pendekatan ini boleh mengurangkan bilangan pelayan yang diperlukan sehingga 25%. 1

Bukan penyesuai slot DDR4-ke-DDR5

DDR4 dan DDR5 ialah generasi memori berlainan. Kaedah guna semula Meta ialah memasang RDIMM DDR4 lama dalam perkakas memori khusus, kemudian menyambungkannya kepada hos menerusi CXL — bukannya cuba menjadikannya serasi dengan slot DDR5 secara terus.

Vistara ialah pengembang memori CXL 2.0/1.1 Type-3 yang menggunakan sambungan PCIe Gen5 x16 untuk merapatkan memori DDR4 kepada pemproses hos. Setiap ASIC menggabungkan dua saluran DDR4 dan boleh menyokong sehingga 256 GB apabila dipadankan dengan DIMM 64 GB. 29

Seni bina ini membolehkan pelayan baharu mengekalkan DDR5 yang dipasang terus pada sistem, sambil menambah kapasiti daripada DDR4 yang dipulihkan. Jadi, pengendali tidak semestinya perlu membeli DRAM baharu yang mencukupi untuk memenuhi keperluan kapasiti puncak setiap pelayan.

Perisian menentukan sama ada pendekatan ini berkesan

DDR4 yang disambungkan menerusi CXL bukan pengganti DDR5 tempatan untuk laluan data yang sensitif kepada kependaman atau lebar jalur. Dalam pelaksanaan pengeluaran Meta, lapisan tambahan itu memberikan kira-kira satu persepuluh lebar jalur DDR5 tempatan dan mempunyai kependaman kira-kira 60% lebih tinggi. 4

Justeru, sistem menganggap kapasiti CXL sebagai lapisan memori berasingan, seakan nod NUMA. Data yang aktif atau sensitif kepada kependaman kekal dalam DDR5 tempatan, manakala halaman memori yang kurang kerap diakses boleh dipindahkan ke lapisan DDR4 yang kosnya lebih rendah. 413

Ringkasnya, ini ialah model memori berperingkat:

• DDR5 tempatan: memori pantas untuk data aktif dan sensitif kepada kependaman.
• DDR4 dipulihkan melalui CXL: kapasiti tambahan untuk data yang boleh menerima lebar jalur lebih rendah serta kependaman lebih tinggi.
• Dasar sistem pengendalian dan beban kerja: menentukan data yang perlu diletakkan pada setiap lapisan.

Manfaatnya bukan kerana DDR4 lama menjadi lebih pantas. Nilainya datang apabila sesebuah beban kerja boleh dimuatkan dalam lebih sedikit mesin.

Kecekapan yang dilaporkan Meta

Meta menyatakan pengembangan memori CXLnya telah digunakan merentas jutaan pelayan dan boleh mengurangkan jumlah pelayan diperlukan sehingga 25% bagi sesetengah beban kerja inferens teragih. 1

Itu ialah hasil kecekapan pada skala armada pelayan. Jika setiap mesin boleh menyimpan lebih banyak memori yang benar-benar berguna, operator mungkin dapat mengelakkan sebahagian pembelian CPU, perkakasan rangkaian, ruang rak dan penggunaan kuasa yang lazimnya datang bersama pelayan tambahan. Namun, angka itu tidak patut dianggap terpakai untuk semua beban kerja AI: aplikasi yang didominasi keperluan lebar jalur atau kependaman mungkin mendapat sedikit manfaat, atau memerlukan dasar penempatan data yang lebih teliti.

Meta turut melaporkan pengurangan 29% dalam purata masa pemprosesan pertanyaan bagi satu beban kerja cache teragih tertentu selepas kapasiti ditambah melalui lapisan ini. Ini menunjukkan memori tambahan boleh membantu apabila ia meningkatkan keberkesanan cache. 15

Google dan pemain hiperskala lain

Laporan awam menunjukkan Google juga memulihkan DDR4 daripada pelayan yang ditamatkan perkhidmatan ketika bekalan DRAM semakin ketat. Namun, butiran teknikal awam mengenai pelaksanaan Google jauh lebih terhad berbanding pendedahan Meta tentang Vistara. 14

Kesimpulan lebih luasnya: pengendali awan berskala besar mempunyai aset yang lazimnya tidak dimiliki pembeli kecil — inventori besar DIMM yang serasi dan sudah pun dimiliki daripada armada pelayan lama. Pengembangan serta pengumpulan memori berasaskan CXL memberi peluang untuk menggunakan inventori itu pada sistem baharu, bukannya menganggapnya sebagai e-sisa.

Mengapa DDR4 dipulihkan semakin bernilai

Ekonomi pendekatan ini didorong oleh tekanan bekalan memori yang berkait dengan AI. Harga kontrak DRAM konvensional dilaporkan meningkat 90–95% suku ke suku pada suku pertama 2026. 1 J.P. Morgan Global Research pula menganggarkan harga DRAM pada akhir 2026 akan lebih 400% lebih tinggi berbanding permulaan 2024. 20

Memori juga dijangka mengambil bahagian lebih besar daripada perbelanjaan infrastruktur awan. Unjuran berasaskan TrendForce menyatakan gabungan DRAM dan NAND boleh menyumbang 68% daripada perbelanjaan modal perkakasan penyedia awan utama pada 2027, meningkat daripada 47% pada 2026. 18

Dalam pasaran begini, DIMM yang dipulihkan bukan sekadar kemenangan dari sudut kelestarian. Ia ialah unit kapasiti strategik yang tidak perlu dibeli dalam pasaran spot atau kontrak yang terhad.

Mengapa kilang baharu tidak semestinya menyelesaikan masalah dengan cepat

Infrastruktur AI meningkatkan permintaan untuk DRAM pelayan biasa dan memori berlebar jalur tinggi, atau HBM. Pengeluar mengalihkan kapasiti ke arah HBM bagi sistem AI, sekali gus mengetatkan bekalan produk memori lain. 1920

Walaupun pelaburan besar dibuat, pembinaan dan kelayakan kapasiti semikonduktor baharu mengambil masa. Deloitte menyatakan bekalan tambahan daripada pelan pengembangan semasa tidak dijangka tersedia sehingga 2029 atau 2030.

Risiko itu turut diperbesar oleh tumpuan bekalan. Samsung dan SK Hynix bersama-sama menguasai kira-kira dua pertiga pasaran DRAM, menurut Reuters. Ini mengehadkan lebihan kapasiti industri apabila permintaan melonjak atau pengeluaran terganggu.

Ketua Pegawai Eksekutif SK Hynix, Kwak Noh-jung, meramalkan kekurangan bekalan paling buruk industri pada 2027 dan berkata permintaan pelanggan boleh melebihi keupayaan pengeluaran syarikat itu melangkaui 2030. Itu ialah ramalan seorang eksekutif syarikat, bukannya kepastian, tetapi ia menerangkan mengapa syarikat hiperskala meneroka penggunaan semula, pemeringkatan memori dan penyahagregatan sekarang — bukan sekadar menunggu keluaran kilang baharu.

Pengajaran praktikal untuk pasukan infrastruktur

Model Meta hanya benar-benar menarik apabila tiga perkara bertemu: operator mempunyai stok memori lama yang bermakna, platform menyokong pengembangan CXL, dan beban kerja boleh menerima lapisan memori kedua yang jelas lebih perlahan.

Dalam keadaan itu, DDR4 lama boleh kembali menjadi kapasiti yang berguna. Tetapi untuk beban kerja yang kritikal terhadap kependaman, ia tetap bukan tempat untuk menyimpan data aktif. Inovasi terasnya bukan penyesuai fizikal, sebaliknya reka bentuk sistem yang menggabungkan pengawal CXL, DIMM dipulihkan dan perisian penempatan data untuk menjadikan memori legasi sebagai sumber yang diuruskan.