Perché le aziende cinesi di IA stanno spremendo ogni GPU Nvidia

La crisi di capacità di calcolo dell’IA cinese non riguarda più soltanto l’addestramento dei modelli. Il collo di bottiglia si sta spostando verso la fase successiva: l’inferenza, cioè il momento in cui un modello già addestrato genera risposte per utenti, aziende e applicazioni.

Con l’adozione su larga scala, le richieste aumentano vertiginosamente. E molte non sono più semplici domande e risposte: arrivano da agenti capaci di ragionare, usare strumenti digitali e completare attività in più passaggi. Il risultato è una competizione sempre più serrata per la capacità di calcolo necessaria a fornire risposte affidabili in tempo reale.

Dall’addestramento alla distribuzione

L’addestramento costruisce il modello; l’inferenza lo mette al lavoro. Alcuni carichi di inferenza possono essere adattati all’hardware prodotto in Cina, ma la sostituzione non è completa. Le applicazioni più esigenti richiedono una combinazione di potenza, memoria, affidabilità e software maturo difficile da replicare.

Le aziende cinesi si trovano così a gestire un’infrastruttura composta da hardware diversi. Gli acceleratori domestici possono assorbire una parte delle richieste, mentre il numero limitato di processori Nvidia di fascia alta deve essere riservato alle attività meno facilmente sostituibili. Secondo le informazioni riportate dal settore, i carichi legati alla programmazione sono tra i principali punti di pressione.

Perché il codice e gli agenti consumano più risorse

Una richiesta semplice può richiedere una quantità relativamente contenuta di calcolo. Un assistente per la programmazione o un agente autonomo, invece, può dover mantenere un contesto molto lungo, generare codice, usare strumenti esterni, verificarne il risultato e correggere più volte la propria risposta.

Questo cambia l’economia della distribuzione dei modelli. Non conta soltanto quante schede possiede un’azienda, ma quanto lavoro utile e affidabile riesce a completare con quelle schede. Se i processori domestici sono meno efficaci nei compiti complessi di programmazione e ragionamento, trasferire tutta l’inferenza lontano dall’hardware Nvidia può ridurre la qualità o l’efficienza.

Le GPU più rare devono quindi essere assegnate ai lavori in cui la differenza è maggiore.

Un token non vale sempre allo stesso modo

Il numero di token è un indicatore utile della domanda, ma non descrive carichi di lavoro equivalenti. I token generati per una risposta semplice o per una classificazione possono essere affidati a hardware meno costoso. Quelli prodotti da un modello più potente, da un processo di ragionamento più lungo o da numerose chiamate a strumenti esterni richiedono più calcolo e possono avere un valore commerciale superiore.

Per questo, un aumento del numero complessivo di token può nascondere una carenza ancora più grave di inferenza premium. Il mercato può produrre più token in assoluto e, allo stesso tempo, avere sempre meno hardware adatto a generare risultati affidabili per le attività complesse. L’interesse per la capacità di produrre token di alta qualità e per i sistemi che combinano risorse di calcolo eterogenee riflette proprio questa differenza.

La domanda è cresciuta più rapidamente della capacità

Nel marzo 2026 il volume medio giornaliero delle chiamate ai token in Cina ha superato i 140.000 miliardi, rispetto a circa 100 miliardi all’inizio del 2024: secondo i dati riportati dall’Amministrazione nazionale dei dati cinese, si tratta di una crescita superiore a 1.000 volte.

Il dato segnala un cambiamento nell’uso dell’IA. I modelli stanno uscendo dalla fase di sperimentazione e dalle richieste isolate per entrare negli assistenti, nei software aziendali e negli agenti che eseguono procedure concrete. L’inferenza sta quindi diventando uno dei principali motori dei consumi di calcolo, non più una fase secondaria rispetto all’addestramento.

Perché ottimizzare il software è la leva più rapida

Aggiungere processori di fascia alta è difficile quando i controlli sulle esportazioni limitano l’accesso ai prodotti Nvidia più avanzati, l’offerta è scarsa e sostituire un intero ecosistema hardware richiede investimenti elevati. I modelli, gli strumenti e i flussi di lavoro esistenti sono inoltre profondamente legati alle piattaforme software consolidate, rendendo la transizione particolarmente costosa.

L’ottimizzazione del software non crea nuovo silicio, ma consente di estrarre più lavoro utile da ogni processore disponibile. Le strategie principali sono:

• Instradamento dei carichi: inviare le richieste semplici verso acceleratori meno costosi o domestici e conservare le GPU Nvidia per i compiti complessi.
• Distribuzione più efficiente: migliorare il raggruppamento e la programmazione delle richieste, così da ridurre i tempi di inattività dell’hardware.
• Uso delle risorse in base alla richiesta: adeguare dimensione del modello, lunghezza del contesto e strategia di risposta al valore e alla difficoltà di ogni attività.
• Infrastrutture eterogenee: integrare architetture di chip differenti, invece di obbligare ogni carico a funzionare su un’unica piattaforma.

Queste misure fanno da ponte tra una domanda in aumento e un’offerta limitata. Non sostituiscono però del tutto l’hardware più avanzato, soprattutto quando i carichi sensibili alla qualità dipendono ancora da un gruppo ristretto di processori.

La stretta sui margini

La carenza è più difficile da risolvere perché i prezzi dell’inferenza sono sotto pressione. Gli analisti di Jefferies hanno stimato che i modelli cinesi costino in media circa un sesto per token rispetto alle offerte delle principali aziende statunitensi.

I prezzi bassi possono accelerare l’adozione, ma riducono anche i ricavi disponibili per finanziare la capacità di calcolo premium, che è la più scarsa. Nel frattempo, gli assistenti per la programmazione e i prodotti basati su agenti possono consumare molte più risorse di una chat tradizionale.

Le aziende cinesi si trovano quindi strette tra tre forze: la domanda cresce rapidamente, i clienti si aspettano accesso a basso costo e la capacità di inferenza più potente non può essere ampliata o sostituita con facilità.

La tensione si è già riflessa nella disponibilità dei servizi. Un rapporto sul mercato ha descritto sviluppatori cinesi di modelli e fornitori cloud costretti a limitare le prestazioni, razionare l’accesso o aumentare i prezzi quando la domanda ha superato le risorse di calcolo disponibili, in particolare per gli assistenti di programmazione più esigenti.

La posta in gioco

La sfida infrastrutturale dell’IA cinese non è semplicemente la mancanza di chip. È la carenza della combinazione giusta di processori avanzati, software compatibile e capacità economicamente sostenibile per l’inferenza ad alto valore.

Con il miglioramento del software e progettando le applicazioni intorno ai punti di forza dell’hardware locale, i chip domestici possono assorbire una quota crescente del lavoro. Le evidenze disponibili indicano però una strategia di transizione: ottimizzare ogni livello dell’inferenza, usare i processori cinesi dove sono efficaci e conservare le GPU Nvidia per i compiti più difficili.

Questo può prolungare la vita delle risorse esistenti. La crescita duratura dell’IA basata sugli agenti dipenderà tuttavia dalla capacità della Cina di ampliare sia l’offerta di hardware sia l’ecosistema software necessario per rendere davvero pratico l’impiego di processori diversi.