Kimi K3: perché Moonshot AI punta a scalare sia il modello sia il ragionamento in fase d’uso

Moonshot AI presenta Kimi K3 come una risposta a un problema centrale per i modelli di frontiera: non basta aumentare la capacità appresa prima del rilascio. Per migliorare su compiti lunghi e complessi bisogna poter spendere più calcolo anche dopo il rilascio, durante il ragionamento, la navigazione web, l’uso di strumenti, la scrittura di codice e le correzioni successive.

La tesi del report tecnico è quindi una strategia su due fronti: costruire un modello molto capiente e, allo stesso tempo, rendere economicamente praticabile sfruttarlo con inferenze più lunghe e agentiche. 1

Capacità enorme, ma non tutti i parametri lavorano su ogni token

Kimi K3 è descritto come un modello Mixture-of-Experts (MoE) multimodale nativo con 2,78 trilioni di parametri totali, dei quali 104,2 miliardi vengono attivati per ciascun token, e con una finestra di contesto fino a 1 milione di token. 1

La distinzione è decisiva. In un modello MoE, una parte del sistema seleziona per ogni token un sottoinsieme di “esperti” specializzati: il modello può quindi conservare una capacità complessiva molto maggiore senza sostenere, a ogni passaggio, il costo computazionale di un modello denso da 2,78 trilioni di parametri. È questa l’idea di fondo dietro la promessa di scalare la capacità pre-deployment senza rendere l’inferenza proibitiva. 1

Un milione di token, non 100.000

Il report rivendica un’estrapolazione nativa fino a 1 milione di token. L’addestramento parte da sequenze di 8K token e viene poi esteso a 64K; il sistema non usa embedding posizionali espliciti. Moonshot sostiene che i gate ricorrenti e i meccanismi di decadimento della Kimi Delta Attention, o KDA, contengano informazioni posizionali sufficienti per estendere il contesto senza modifiche a RoPE, una tecnica diffusa per codificare la posizione dei token. 1

Questo non significa semplicemente poter inserire documenti molto lunghi nel prompt. La posta in gioco è permettere a un agente di conservare traccia di ricerche, strumenti, risultati intermedi e tentativi precedenti senza dover comprimere continuamente il contesto.

KDA e Gated MLA: ridurre il costo del contesto lungo senza perdere il recupero globale

La KDA sostituisce gran parte dell’attenzione quadratica convenzionale con uno stato ricorrente di dimensione fissa. In termini pratici, punta a evitare che lo stato necessario e il costo di generazione crescano linearmente con tutta la cronologia, come avviene con una cache KV completa nell’attenzione standard. 1

Moonshot alterna tre livelli KDA a un livello di Gated MLA:

• la KDA gestisce l’elaborazione persistente della sequenza a costo più contenuto;
• il Gated MLA recupera selettivamente informazioni globali quando servono. 1

Il limite inferiore imposto al tasso di decadimento della KDA è presentato anche come una scelta d’implementazione: evita decadimenti troppo piccoli, numericamente problematici, e consente un calcolo a blocchi più adatto ai tensor core. Non è quindi soltanto una modifica teorica del modello. 1

Attention Residuals: un collegamento tra livelli profondi

In una rete molto profonda e basata in gran parte su attenzione lineare, il rischio è che le informazioni utili debbano attraversare rigidamente ogni strato, perdendosi o degradandosi lungo il percorso. Le Attention Residuals (AttnRes) intendono ridurre questo rischio consentendo agli strati successivi di recuperare rappresentazioni compresse da blocchi precedenti della rete. 1

L’obiettivo è mantenere qualità e accesso alle informazioni attraverso una rete di 93 livelli, mentre molta dell’attenzione globale più costosa viene rimpiazzata dalla KDA. In altre parole, KDA e AttnRes non sono due spiegazioni indipendenti delle prestazioni: sono componenti progettati per funzionare insieme. 1

Più esperti richiede anche una rete efficiente

Il sistema Stable LatentMoE usa 896 esperti e un routing top-16, cioè seleziona 16 esperti per token. Il metodo di bilanciamento basato sui quantili tratta il routing come un problema di assegnazione bilanciata e ricava un ottimo esatto nelle ipotesi formulate a livello di batch. In produzione, però, il router usa bias fissi per gli esperti e una selezione top-k ordinaria, non il risolutore di bilanciamento a ogni inferenza. 1

Perciò l’idea di un “equilibrio perfetto” va letta con precisione: è una proprietà del problema di ottimizzazione definito nel report, non una garanzia che ogni batch reale in produzione risulti perfettamente bilanciato.

Qui entra in gioco anche MoonEP, l’infrastruttura di comunicazione tra esperti. Un MoE molto grande è conveniente soltanto se i token possono essere instradati verso gli esperti scelti senza che comunicazioni all-to-all sbilanciate e ritardi di rete annullino il vantaggio. MoonEP affronta proprio questo vincolo operativo. 1

La seconda scala: più calcolo mentre il modello lavora

La parte più ambiziosa della tesi riguarda il post-addestramento e l’inferenza. Moonshot descrive una flotta di sandbox basate su macchine virtuali leggere, pensata per generare molte traiettorie RL verificabili e di lunga durata. Grazie agli snapshot, i percorsi possono essere ramificati o ripresi con costi inferiori. 1

Questa infrastruttura serve ad addestrare un sistema che non dia soltanto una risposta immediata, ma possa investire più passaggi nel compito: pianificare, consultare fonti, eseguire codice, chiamare strumenti, verificare il risultato e correggersi. Il report descrive inoltre la distillazione di più insegnanti specializzati in un unico sistema, così da trasferire comportamenti di dominio senza dover servire nove modelli distinti. 1

La conclusione di Moonshot è chiara: la capacità non deriva esclusivamente da un modello pre-addestrato più grande, ma dalla combinazione fra capacità immagazzinata e calcolo disponibile al momento della richiesta.

Il 91,2% su BrowseComp è promettente, ma non isola le cause

Secondo una classifica di terze parti aggiornata al 2 settembre 2026, Kimi K3 ottiene il 91,2% su BrowseComp, benchmark pensato per valutare la ricerca di informazioni sul web in compiti complessi e a lungo orizzonte. 4

Se riprodotto, il risultato sosterrebbe l’idea che K3 sia particolarmente forte nei flussi agentici di ricerca e raccolta delle informazioni. Tuttavia, un punteggio di benchmark resta un risultato end-to-end: non dice quanto del vantaggio derivi singolarmente da KDA, AttnRes, routing MoE, ambienti RL, distillazione o maggiore calcolo in fase di test.

Attenzione ai confronti di prezzo

Non emergono dal report tecnico, né da una fonte indipendente di elevata autorevolezza tra quelle disponibili, prove verificabili per affermazioni molto specifiche come un costo pari alla metà di GPT-5.6 Sol o un divario esatto di quattro punti rispetto a “Claude Fable 5” su Kimi Code Bench al 38% del costo.

Un confronto citato riporta invece una stima di circa 0,94 dollari per task completato per K3 e 1,04 dollari per GPT-5.6 Sol: una differenza contenuta, non vicina al 50%. 8 Costi di questo genere dipendono da configurazione, prompt, livello di ragionamento, prezzi API e metodologia di valutazione; senza un harness pubblico e una contabilità completa, non vanno trattati come valori universali.

Cosa sostiene davvero il report

Il punto strategico non è soltanto la corsa al prezzo. Moonshot propone una nuova pila di progettazione — architettura, routing, comunicazione distribuita, post-training e inferenza agentica — per superare la soglia dei trilioni di parametri e trasformare il contesto lungo in capacità effettivamente utilizzabile.

Le affermazioni più forti sui confronti con altri modelli open source o su un presunto stallo dell’ecosistema vicino a 1 trilione di parametri, però, non sono dimostrate dal solo paper K3 con le evidenze qui disponibili. Il report documenta soprattutto la propria ricetta tecnica; la superiorità generale rispetto all’intero mercato richiede confronti indipendenti, riproducibili e condotti a parità di condizioni.