Meta genbruger gammel DDR4 som ekstra hukommelse til AI-servere

Meta forsøger ikke at sætte en gammel DDR4-DIMM direkte i et nyt bundkort med DDR5. DDR4 og DDR5 er forskellige hukommelsesgenerationer, og løsningen er derfor ikke en simpel socket-adapter.

I stedet skiller selskabet den stadig brugbare hukommelse fra de udfasede servere, den sad i. De genvundne DDR4-moduler placeres i en særskilt hukommelsesløsning, som forbindes til moderne DDR5-baserede værter via Compute Express Link (CXL). For arbejdsbelastninger, hvor den afgørende begrænsning er hukommelseskapacitet snarere end svartid, siger Meta, at det kan reducere det nødvendige antal servere med op til 25 %. 1

Vistara: CXL-udvidelse frem for DDR4-til-DDR5-adapter

Kernen i Metas løsning hedder Vistara. Det er en CXL 2.0/1.1 Type-3-hukommelsesudvider med et PCIe Gen5 x16-link, der bygger bro mellem DDR4-hukommelse og værtsprocessoren. Hver ASIC har to DDR4-kanaler og kan understøtte op til 256 GB med 64 GB DIMM-moduler. 29

Det betyder, at en nyere server kan beholde sin direkte tilsluttede DDR5 og samtidig få mere kapacitet fra ældre DDR4. Målet er ikke at gøre DDR4 hurtigere, men at undgå at købe ny og dyr DRAM til al den kapacitet, som kun bruges i spidsbelastninger.

Et langsommere lag kræver intelligent placering af data

CXL-tilsluttet DDR4 kan ikke erstatte lokal DDR5, når lav latenstid eller høj båndbredde er afgørende. I rapporteringen om Metas produktionsmiljø leverede udvidelseslaget omtrent en tiendedel af båndbredden fra lokal DDR5, mens latenstiden var cirka 60 % højere. 4

Derfor behandles CXL-kapaciteten som et særskilt, NUMA-lignende hukommelseslag. Data, der bruges ofte eller er følsomme over for forsinkelse, bliver i den lokale DDR5. Mindre aktive datasider kan flyttes til det billigere DDR4-lag. 413

I praksis er modellen en form for lagdelt hukommelse:

• Lokal DDR5: Hurtig hukommelse til aktive og latenstidsfølsomme data.
• CXL-tilsluttet, genvundet DDR4: Ekstra kapacitet til data, der kan tolerere lavere båndbredde og højere latenstid.
• Operativsystem og arbejdsbelastningspolitik: Afgør, hvilke data der skal ligge hvor.

Gevinsten kommer altså fra bedre kapacitetsudnyttelse og færre nødvendige maskiner – ikke fra en højere rå ydelse i den gamle DDR4.

Meta peger på færre servere og hurtigere cache-forespørgsler

Meta oplyser, at CXL-hukommelsesudvidelsen er udrullet på tværs af millioner af servere. For nogle adskilte inferensarbejdsbelastninger kan antallet af nødvendige servere falde med op til 25 %. 1

Det er et resultat på flådeniveau: Når hver server kan rumme mere brugbar hukommelse, kan operatøren potentielt også spare CPU'er, netværksudstyr, rackplads og strømforbrug. Tallet kan dog ikke uden videre overføres til alle AI-opgaver. Arbejdsbelastninger, der især er bundet af hukommelsesbåndbredde eller latenstid, kan få lille udbytte eller kræve meget præcis dataplacering.

Meta har desuden rapporteret 29 % kortere gennemsnitlig forespørgselsbehandlingstid for en bestemt distribueret cache-arbejdsbelastning, efter kapaciteten blev udvidet med det ekstra lag. Det illustrerer, at mere hukommelse kan forbedre ydelsen, når cacheeffektiviteten løftes. 15

Google genbruger også DDR4 – men med færre tekniske detaljer

Offentlig rapportering peger på, at Google ligeledes tager DDR4 ud af udfasede servere og genbruger modulerne, mens DRAM-markedet er presset. Der er dog langt færre offentlige tekniske oplysninger om Googles konkrete implementering end om Metas Vistara. 14

Den bredere pointe er, at hyperscalere – de allerstørste cloudoperatører – har en fordel, som mindre købere typisk ikke har: et enormt lager af allerede ejede og kompatible DIMM-moduler fra tidligere servergenerationer. CXL-baseret udvidelse og pooling kan gøre dette lager nyttigt i nye systemer frem for at gøre det til elektronikaffald.

Hvorfor gammel RAM pludselig er værdifuld

Baggrunden er en AI-drevet mangel på hukommelse. Kontraktpriserne på almindelig DRAM steg efter rapporterne 90-95 % kvartal for kvartal i første kvartal 2026. 1 J.P. Morgan Global Research vurderer, at DRAM-priserne ved udgangen af 2026 vil ligge mere end 400 % over niveauet i starten af 2024. 20

Hukommelse fylder samtidig mere i cloudgiganternes anlægsbudgetter. En TrendForce-baseret prognose anslår, at DRAM og NAND samlet kan udgøre 68 % af de største cloududbyderes hardwareinvesteringer i 2027, mod 47 % i 2026. 18

I det marked er en genvundet DIMM ikke kun en bæredygtighedsgevinst. Den er også ekstra kapacitet, som virksomheden ikke behøver at købe på et stramt og dyrt marked.

Nye fabrikker løser ikke problemet fra den ene dag til den anden

AI-infrastruktur øger efterspørgslen på både traditionel server-DRAM og HBM, altså high-bandwidth memory til AI-systemer. Leverandørerne har flyttet kapacitet mod HBM, hvilket lægger yderligere pres på andre hukommelsesprodukter. 1920

Selv med store investeringer tager nye halvlederfabrikker lang tid at opføre og kvalificere. Deloitte vurderer, at ekstra kapacitet fra de nuværende udvidelsesplaner først forventes at komme online i 2029 eller 2030.

Markedet er også koncentreret. Samsung og SK Hynix kontrollerer tilsammen omkring to tredjedele af DRAM-markedet, ifølge Reuters. Det giver mindre reservekapacitet, hvis efterspørgslen stiger brat, eller produktionen bliver forstyrret.

SK Hynix' topchef Kwak Noh-jung har forudsagt branchens værste forsyningsmangel i 2027 og sagt, at kundernes efterspørgsel kan overstige selskabets produktionskapacitet også efter 2030. Det er en virksomhedsleders prognose, ikke en sikkerhed, men den forklarer, hvorfor hyperscalere allerede nu satser på genbrug, hukommelseslag og adskillelse af compute og hukommelse.

Hvad infrastrukturnavne kan lære af modellen

Metas tilgang giver især mening, når tre forhold er opfyldt: Operatøren skal have et betydeligt lager af pensioneret hukommelse, platformen skal understøtte CXL-udvidelse, og arbejdsbelastningerne skal kunne fungere med et tydeligt langsommere andet hukommelseslag.

Under de betingelser kan gammel DDR4 blive værdifuld kapacitet igen. Til latenstidskritiske data er den fortsat det forkerte sted. Innovationen er ikke en adapter, men et samlet design med CXL-controller, genvundne DIMM-moduler og software, der placerer data i det rigtige hukommelseslag.