Come Meta trasforma la DDR4 dei vecchi server in memoria per l’AI

Meta non sta usando un semplice adattatore per montare vecchi DIMM DDR4 su schede madri DDR5. Le due generazioni non sono intercambiabili a livello di socket e piattaforma. L’idea è invece separare la memoria ancora utilizzabile dal server ormai dismesso e trasformarla in capacità aggiuntiva collegata via CXL (Compute Express Link).

Il progetto di Meta si chiama Vistara: un ASIC proprietario collega moduli DDR4 recuperati al processore host tramite CXL. In pratica, il nuovo server conserva la DDR5 direttamente collegata alla CPU e ottiene una seconda riserva di memoria, meno veloce, basata sulla DDR4 riciclata. Per i carichi limitati soprattutto dalla capacità di memoria, e non dalla latenza, Meta afferma che questo può ridurre il numero di server necessario fino al 25%. 1

Non un adattatore DDR4-DDR5, ma un’espansione CXL

Vistara è un’espansione di memoria CXL 2.0/1.1 di tipo 3, collegata mediante PCIe Gen5 x16. L’ASIC integra due canali DDR4 e può supportare fino a 256 GB per chip usando DIMM da 64 GB. 29

La configurazione consente quindi a un host moderno, progettato per DDR5, di usare anche DDR4 recuperata come capacità supplementare. Il vantaggio non è rendere più rapida la vecchia memoria, ma evitare di acquistare nuova DRAM per coprire ogni picco di capacità su ogni macchina.

La parte decisiva è il software: memoria a livelli

La DDR4 collegata tramite CXL non può sostituire la DDR5 locale nei percorsi più sensibili a banda e latenza. Secondo i dati riportati sull’implementazione in produzione di Meta, il livello espanso offre circa un decimo della banda della DDR5 locale e presenta una latenza superiore di circa il 60%. 4

Per questo il sistema espone tale capacità come un livello di memoria distinto, simile a un nodo NUMA. I dati più “caldi”, ovvero consultati spesso o sensibili ai tempi di risposta, restano nella DDR5 locale; le pagine meno utilizzate possono essere collocate nella DDR4 via CXL. 413

In sintesi:

• DDR5 locale: per dati attivi e sensibili alla latenza;
• DDR4 recuperata via CXL: per aumentare la capacità quando prestazioni inferiori sono accettabili;
• sistema operativo e politiche del carico di lavoro: decidono la collocazione dei dati.

È dunque una strategia di tiering della memoria, non un modo per trasformare la DDR4 in DDR5.

I risultati dichiarati da Meta

Meta ha indicato che l’espansione CXL è distribuita su milioni di server e che, per alcuni carichi di inferenza disaggregata, può ridurre fino al 25% il numero di macchine richieste. 1

È un risultato di efficienza dell’infrastruttura: se ogni server dispone di una maggiore quantità di memoria effettivamente utile, possono servire meno CPU, schede di rete, rack e consumi associati. Non è però un dato estendibile automaticamente a ogni applicazione AI: i carichi dominati dalla latenza o dalla banda di memoria potrebbero trarne poco beneficio, o richiedere regole di posizionamento dei dati molto più attente.

In un caso specifico di cache distribuita, Meta ha inoltre riportato una riduzione del 29% del tempo medio di elaborazione delle query dopo l’aumento della capacità disponibile nel livello aggiuntivo. 15

E Google?

Le informazioni pubbliche indicano che anche Google sta recuperando DDR4 da server ritirati dal servizio, in un mercato DRAM particolarmente teso. Tuttavia, i dettagli tecnici disponibili sulla sua implementazione sono molto più limitati rispetto a quelli divulgati da Meta su Vistara. 14

Il punto comune è che i grandi operatori cloud dispongono di un patrimonio che molti acquirenti più piccoli non hanno: enormi quantità di DIMM compatibili già posseduti e rimossi da infrastrutture precedenti. CXL può rendere quell’inventario nuovamente utilizzabile, invece di trattarlo come rifiuto elettronico.

Perché la DDR4 riciclata è diventata preziosa

Il contesto è una forte pressione sul mercato della memoria guidata dagli investimenti nell’AI. I prezzi contrattuali della DRAM convenzionale sarebbero aumentati del 90-95% trimestre su trimestre nel primo trimestre del 2026. 1 J.P. Morgan Global Research stima che, tra l’inizio del 2024 e la fine del 2026, i prezzi della DRAM saranno saliti di oltre il 400%. 20

La memoria pesa anche sempre di più nei bilanci delle grandi piattaforme cloud. Una previsione basata su TrendForce indica che DRAM e NAND insieme potrebbero rappresentare il 68% della spesa in conto capitale per l’hardware dei maggiori fornitori cloud nel 2027, dal 47% del 2026. 18

In questo scenario, un DIMM recuperato non è soltanto un vantaggio ambientale: è capacità disponibile che non deve essere acquistata in un mercato sotto pressione.

Perché nuove fabbriche non risolveranno subito il problema

L’infrastruttura AI richiede sia DRAM tradizionale per server sia HBM, la memoria ad alta larghezza di banda usata nei sistemi AI. I produttori hanno indirizzato capacità verso l’HBM, restringendo l’offerta di altri prodotti di memoria. 1920

Anche quando gli investimenti sono rilevanti, costruire e qualificare nuova capacità per semiconduttori richiede tempo. Deloitte ritiene che l’offerta aggiuntiva prevista dagli attuali piani di espansione non arriverà prima del 2029 o del 2030.

A complicare il quadro è la concentrazione dell’offerta: secondo Reuters, Samsung e SK Hynix controllano insieme circa due terzi del mercato DRAM. Il CEO di SK Hynix, Kwak Noh-jung, ha previsto la peggiore carenza del settore nel 2027 e ha dichiarato che la domanda dei clienti potrebbe superare la capacità produttiva dell’azienda anche oltre il 2030. È una previsione aziendale, non una certezza, ma chiarisce perché i grandi operatori stiano puntando già ora su riuso, disaggregazione e memoria a livelli.

Cosa insegna il caso Meta ai team infrastrutturali

Il modello è interessante soltanto se coincidono tre condizioni: un parco significativo di memoria ritirata ma ancora valida, una piattaforma che supporti l’espansione CXL e carichi di lavoro capaci di tollerare un secondo livello di memoria nettamente più lento.

Quando queste condizioni ci sono, la DDR4 dismessa può tornare a essere capacità utile. Per i dati più critici in termini di latenza, resta invece essenziale la DDR5 locale. L’innovazione centrale di Meta non è un adattatore: è l’integrazione tra controller CXL, DIMM recuperati e software di gestione dei dati.