DeepSeek V4 Flash e gli 8.000 miliardi di token: perché gli agenti IA cambiano l’economia dei modelli

Gli 8.000 miliardi di token elaborati in un giorno su OpenCode non raccontano soltanto il successo di un singolo modello. Indicano soprattutto che sta cambiando l’unità di misura del lavoro con l’IA.

Per molti sviluppatori, non si paga più una risposta a una domanda: si paga un ciclo operativo di un agente. L’agente legge un repository, formula un piano, modifica file, esegue un programma, analizza un errore e riprova. Questo processo può richiedere contesti enormi e molte iterazioni.

OpenCode ha riferito che DeepSeek V4 Flash ha elaborato 8.000 miliardi di token il 1º agosto: 5.000 miliardi attraverso crediti di prova gratuiti e 3.000 miliardi tramite l’offerta Go a pagamento. Separatamente, la classifica settimanale di OpenRouter per il periodo dal 27 luglio al 2 agosto attribuiva a V4 Flash 7.220 miliardi di token sull’intera settimana, su quella piattaforma. Sono dati comunicati dalle piattaforme, non una rilevazione indipendente di tutto l’uso del modello; il confronto, però, rende visibile la scala che i flussi di lavoro agentici possono raggiungere. 202329

Perché gli agenti consumano così tanti token

Una richiesta a un chatbot ha in genere un prompt relativamente breve e una risposta delimitata. Un agente di programmazione, invece, lavora con un insieme molto più ampio di informazioni: file sorgente, output del terminale, test falliti, decisioni precedenti, patch generate e chiamate agli strumenti. E può dover riesaminare una parte consistente di quel contesto a ogni nuovo tentativo.

I dati pubblicati da OpenCode per V4 Flash indicano una media di circa 12 milioni di token per sessione e un rapporto di cache in input del 95%. Questi numeri non dimostrano che ogni sessione sia un lavoro di coding totalmente autonomo, ma sono coerenti con attività iterative e a contesto lungo, non con la classica conversazione breve. 25

La distinzione è importante: l’utente non attribuisce valore al numero di token prodotti, bensì a una pull request accettata, a una suite di test superata, a un prototipo funzionante o a un processo completato correttamente. Una formula pratica per valutare un modello è quindi:

Costo per attività accettata = costo totale del modello e del ciclo di strumenti ÷ probabilità che l’attività soddisfi lo standard richiesto.

Nel costo rientrano i tentativi falliti, le ripetizioni, la revisione umana, la latenza e le correzioni necessarie. Non solo le tariffe pubblicate per input e output.

Prezzi bassi: più tentativi diventano sostenibili

La stampa ha riportato per V4 Flash un prezzo di prima parte pari a 0,14 dollari per milione di token in input e 0,28 dollari per milione di token in output. 12 A questi livelli, per uno sviluppatore diventa più praticabile consentire all’agente ulteriori iterazioni, mantenere più contesto e automatizzare più test rispetto a un modello molto più costoso.

Questo non significa che un modello economico sia sempre la scelta migliore. Significa che, nei compiti ordinari che richiedono molti passaggi, un piccolo divario qualitativo può essere superato da un grande divario di costo.

In un confronto riportato, V4 Flash Max ha ottenuto 50 punti nell’Artificial Analysis Intelligence Index v4.1, contro 56 per Claude Opus 4.8 Max. Il costo stimato per eseguire l’intera batteria di valutazione è stato però di 72,02 dollari contro 3.752,55 dollari. La differenza di costo è enorme a fronte di sei punti di scarto, ma si tratta di un confronto di valutazione, non di una garanzia di affidabilità equivalente nel lavoro reale. 16

Per compiti difficili o ad alta conseguenza, un modello premium può comunque costare meno per risultato accettato se riduce in modo sostanziale errori di rilascio, supervisione o rilavorazioni. La conclusione non è «usare ovunque il modello più economico», ma instradare ogni attività in base al costo complessivo necessario per arrivare a un risultato adeguato.

La “kill line” mette soprattutto alla prova la fascia intermedia

L’espressione “DeepSeek kill line” va letta come una metafora di mercato. Descrive la pressione sui modelli molto più costosi di un’alternativa economica vicina alla frontiera prestazionale, ma non chiaramente superiori nel risultato finale dell’attività.

Le tre fasce reagiscono in modo diverso:

• Modelli economici di routing: restano utili per classificazione, estrazione di dati, trasformazioni brevi e triage ad alto volume, dove contano più la velocità e il costo unitario minimo che il ragionamento avanzato.
• Modelli flagship premium: mantengono un ruolo nelle attività più difficili, nel ragionamento su molti passaggi, nei casi che richiedono affidabilità eccezionale, capacità multimodali, requisiti di governance o revisione umana molto costosa.
• Modelli di fascia media: affrontano il test più severo. Se costano sensibilmente più di Flash, devono dimostrare tassi di completamento migliori, minore latenza, uso più efficace degli strumenti, integrazioni, supporto o controlli enterprise superiori; un lieve vantaggio nei benchmark potrebbe non bastare.

In sintesi, i modelli agentici a basso costo possono diventare il lavoratore predefinito, mentre quelli premium diventano specialisti a cui escalare i casi complessi. La fascia centrale deve dimostrare di abbassare davvero il costo totale dell’attività.

L’architettura pensata per l’economia degli agenti

DeepSeek V4 Flash è un modello mixture-of-experts con 284 miliardi di parametri totali, ma circa 13 miliardi attivati per token, e supporta una finestra di contesto di un milione di token. 17 Il progetto separa quindi la capacità complessiva del modello dalla quantità di calcolo necessaria per generare ciascun token.

La strategia di efficienza comprende diversi elementi:

• Routing mixture-of-experts: per ogni token viene attivato solo un sottoinsieme di esperti, riducendo il calcolo attivo rispetto a un modello denso che esegue tutti i parametri. 17
• Attenzione ibrida: la famiglia V4 combina Compressed Sparse Attention (CSA) e Heavily Compressed Attention (HCA), meccanismi progettati per ridurre il carico di attenzione e memoria con contesti molto lunghi. 1733
• Minore peso della cache: NVIDIA descrive le innovazioni di attenzione della famiglia V4 come mirate a una riduzione del 73% dei FLOPs di inferenza per token e del 90% del carico di memoria della KV cache rispetto a DeepSeek-V3.2, nel confronto citato. 33
• Flussi di lavoro attenti alla cache: quando una sessione agentica reinvia spesso contesto sovrapposto — repository e tracce degli strumenti — un riuso elevato della cache può incidere materialmente sul costo reale. Il 95% riportato da OpenCode mostra perché questo dettaglio operativo conta. 25

Non sono semplici specifiche tecniche: determinano se sia economicamente praticabile lasciare che un agente esamini una grande base di codice, esegua strumenti e recuperi dagli errori più volte prima di consegnare un risultato.

La nuova frontiera: capacità, affidabilità e costo marginale dell’iterazione

I benchmark restano rilevanti, ma per gli agenti non bastano da soli. Il confronto utile è un equilibrio fra tre fattori:

1. Capacità: il modello sa risolvere quella classe di problemi?
2. Affidabilità: con quale frequenza produce un risultato accettabile senza interventi costosi?
3. Costo marginale dell’iterazione: quanto costa un’ulteriore chiamata a uno strumento, revisione, esecuzione di test o tentativo di recupero?

Il giorno da 8.000 miliardi di token rende visibile soprattutto il terzo fattore. Quando gli agenti sostituiscono le richieste una tantum, il consumo di token può crescere di ordini di grandezza. I modelli che rendono economici il contesto lungo e i tentativi ripetuti possono affermarsi come opzione predefinita per carichi agentici ampi e ripetitivi, anche se un flagship più capace resta la scelta migliore per i casi più difficili. 202533