Kimi K3 è enorme. Ma il vero spettacolo è l’efficienza.

In questa pagina

1. Kimi K3 è enorme, ma solo quando serve
2. I benchmark sono già buoni, non serve raccontarli male
3. Il keynote aveva spiegato K3 prima che K3 esistesse
4. Muon è la parte che dovrebbe interessare anche agli amministratori
5. KDA e Attention Residuals colpiscono due colli di bottiglia diversi
6. Il significato di fare di più con meno, secondo Moonshot
7. Il modello gigante che rende ridicoli i modelli giganti

🇬🇧 Read this article in English

Kimi K3 ha 2,8 trilioni di parametri, un contesto da un milione di token ed è già terzo nella classifica Arena+ di OpenLM. Ovviamente tutti parleranno del numero di parametri. È il dato meno interessante dell’intero lancio.

La parte importante è il modo in cui Moonshot AI sta trasformando meno calcolo sprecato in capacità da modello di frontiera. K3 attiva soltanto 16 dei suoi 896 esperti instradati, modifica l’attenzione in punti cruciali dell’architettura e arriva con una strategia di inferenza fatta di cache, quantizzazione e agenti paralleli. Non è una passata di ottimizzazione per limare il conto. È la risposta di Moonshot a un settore che usa i data center come sostituti delle idee.

E sì, K3 è terzo nella Chatbot Arena+ di OpenLM, nella rilevazione del 20 luglio 2026. Ha un Arena Elo di 1506, dietro Claude Fable 5 a 1510 e GPT-5.6 Sol a 1509, a pari punteggio visualizzato con Claude Opus 4.8 Thinking e GPT-5.5-high. Le classifiche cambiano, i pareggi esistono e far finta del contrario è il modo in cui i comunicati sui benchmark diventano astrologia.

Kimi K3 è enorme, ma solo quando serve

Moonshot definisce K3 il primo modello open di classe 3T. Il numero esatto è 2,8 trilioni di parametri totali, organizzati in una Mixture of Experts sparsa con 896 esperti instradati. A ogni operazione di routing ne vengono attivati soltanto 16.

La distinzione conta. Il numero totale di parametri di un modello sparso non coincide con il calcolo usato per ogni token. Citare 2,8 trilioni senza spiegare il routing è come descrivere un albergo contando tutti i letti e poi sostenere che ogni ospite dorma contemporaneamente in ognuno di essi. Bell’edificio. Abitudini notturne discutibili.

K3 offre anche visione nativa e una finestra di contesto da un milione di token. Moonshot lo propone per programmazione di lunga durata, ricerca e knowledge work, cioè lavori nei quali un agente deve tenere a mente per ore repository, strumenti, documenti, schermate e i propri errori, invece di rispondere a una domanda da quiz ben confezionata.

Il lancio è open-weight con l’asterisco. K3 è già disponibile nei prodotti e via API, mentre Moonshot promette pesi completi, licenza e technical report entro il 27 luglio 2026. Finché quei file non esistono, è un rilascio open-weight annunciato, non ancora un modello scaricabile e ispezionabile. Moonshot raccomanda inoltre supernodi con almeno 64 acceleratori. Open non significa che entri sotto la scrivania, a meno che la scrivania non si trovi in un data center.

I benchmark sono già buoni, non serve raccontarli male

Nella rilevazione OpenLM Arena+ del 20 luglio, Kimi K3 è terzo per Arena Elo visualizzato. La stessa tabella riporta 1562 nel coding, 1311 nella visione, 78 nell’Artificial Analysis Intelligence Index e 89,3 su MMLU-Pro. OpenLM descrive Arena+ come una piattaforma di scontri tra agenti che usa un LLM giudice per calcolare l’Elo. Non è quindi la stessa classifica, né la stessa metodologia, delle preferenze umane di LM Arena.

Non è pignoleria. “Chatbot Arena” è ormai un’espressione generica che viene usata come se esistesse una classifica universale. Non esiste. Nelle leaderboard separate di LM Arena, controllate lo stesso giorno, K3 era primo nel WebDev, quarto nell’Agent Arena e dentro un gruppo affollato attorno al nono posto nel Text. Prompt, giudici, votanti, categorie e intervalli di confidenza diversi producono posizioni diverse. Benvenuti nelle valutazioni del 2026, dove ormai serve una model card anche per il tabellone.

Le valutazioni di Moonshot sono più ambiziose e meno indipendenti. L’azienda dichiara 67,3 su DeepSWE con mini-SWE-agent e 90,4 su BrowseComp usando l’intero milione di token senza gestione esterna del contesto. Mostra anche esecuzioni autonome molto lunghe per ottimizzare kernel GPU, creare un proof of concept ASIC e svolgere una ricerca di astrofisica.

Le demo sono davvero interessanti. Nel test ASIC, K3 avrebbe lavorato per 48 ore usando strumenti EDA open source e il processo Nangate a 45 nm, raggiungendo la timing closure a 100 MHz e producendo un progetto simulato oltre gli 8.700 token al secondo. Ma era silicio simulato, non un chip fabbricato. Nel lavoro di astrofisica avrebbe esaminato più di 20 paper, elaborato oltre 300 equazioni di stato e scritto più di 3.000 righe di Python in circa due ore. Sono casi presentati da Moonshot, non repliche di un laboratorio indipendente.

Moonshot ammette che nel complesso K3 resta dietro Claude Fable 5 e GPT-5.6 Sol. Bene. Un’azienda che non dichiara il proprio modello campione assoluto di qualsiasi cosa è talmente rara che qualcuno dovrebbe controllare se il marketing ne è al corrente.

Il keynote aveva spiegato K3 prima che K3 esistesse

Quattro mesi prima del lancio, il fondatore di Moonshot Zhilin Yang ha tenuto un keynote al GTC 2026 sullo scaling di Kimi K2.5. Il nome del modello è cambiato, ma oggi quel talk sembra il manifesto architetturale di K3.

Yang divide lo scaling in tre dimensioni: efficienza dei token, lunghezza del contesto e numero di agenti. Il manuale classico dei laboratori di frontiera chiede soprattutto quanti altri chip, dati e megawatt si possano buttare nel prossimo training. Moonshot fa una domanda più fastidiosa: quanta parte del budget attuale diventa apprendimento, invece che calore?

Attorno al minuto 1:45, Yang descrive l’efficienza dei token come uno spostamento verso sinistra della curva di scaling. L’obiettivo non è soltanto addestrare più velocemente, ma raggiungere una loss inferiore con lo stesso numero di token. Se i dati di qualità sono finiti, raddoppiare l’efficienza equivale grossomodo a trovare il doppio dei dati utili. Senza dover scoprire un nuovo internet, che è comodo visto che quello vecchio è sempre più composto da riassunti AI di altri riassunti AI.

La seconda dimensione è il contesto. Più contesto permette a un agente di lavorare più a lungo e conservare più stato, ma l’attenzione tradizionale rende tutto costoso. La terza è il numero di agenti: dividere un problema in sottocompiti paralleli, lasciare che agenti specializzati cerchino soluzioni in autonomia e poi coordinare i risultati. Moonshot li chiama agent swarm. Meno “un genio pensa più intensamente”, più “un team decente smette di aspettare che una sola persona chiuda ogni ticket”.

K3 segue questa tesi punto per punto. Ottimizzatore e architettura cercano più apprendimento per token. Kimi Delta Attention punta a un contesto lungo meno costoso. Il milione di token serve a lavori prolungati. I prodotti agentici di Moonshot puntano all’esecuzione parallela. È un programma di ricerca coerente, non un sacchetto di acronimi rovesciato sopra un comunicato stampa.

Muon è la parte che dovrebbe interessare anche agli amministratori

La trascrizione automatica a volte rende Muon come “Meow”, nome oggettivamente migliore per un ottimizzatore ma tecnicamente sbagliato. Muon è un ottimizzatore di secondo ordine che trasforma gli aggiornamenti del gradiente tramite ortogonalizzazione, invece di affidarsi alla geometria tipica di AdamW.

Negli esperimenti di scaling pubblicati, Moonshot dichiara circa 2 volte l’efficienza computazionale di AdamW nelle condizioni testate. Yang chiarisce il punto economico: con 50 trilioni di token di qualità e il doppio dell’efficienza, il risultato si comporta più come 100 trilioni di token con la vecchia ricetta. Non dimezza ogni costo dell’azienda. Fa sì che lo stesso budget di training compri un modello migliore.

Portare Muon a questa scala non ha richiesto di cambiare una riga di configurazione e andare a pranzo. Moonshot ha aggiunto weight decay, normalizzato l’ampiezza degli aggiornamenti rispetto ad AdamW e distribuito lo stato dell’ottimizzatore sui cluster GPU. Ha anche incontrato esplosioni dei logit di attenzione, che crescono fino a destabilizzare il training. L’intervento QK-Clip limita selettivamente le proiezioni query e key problematiche, invece di prendere a martellate ogni attention head.

Questo è il macchinario poco sexy dietro “fare di più con meno”: trovare dove il calcolo smette di produrre apprendimento utile e togliere lo spreco senza mandare all’aria un training da trilioni di parametri. A quanto pare l’AI di frontiera contiene meno scintille magiche e più mesi passati a fissare un grafico che non dovrebbe impennarsi.

KDA e Attention Residuals colpiscono due colli di bottiglia diversi

Kimi Delta Attention, o KDA, è l’approccio di Moonshot all’attenzione lineare. La softmax attention tradizionale permette a ogni token di confrontarsi con ogni altro token. È espressiva e diventa brutalmente costosa all’aumentare della sequenza. L’attenzione lineare mantiene uno stato ricorrente compresso, rendendo più economiche le sequenze lunghe, ma durante la compressione può perdere dettagli utili.

KDA aggiunge un gate appreso che controlla quanta parte dello stato precedente cancellare e quanta nuova informazione scrivere. Nel keynote, Yang la presenta come una via di mezzo: conservare l’efficienza di uno stato compatto recuperando una parte dell’espressività dell’attenzione completa. K3 combina KDA con la Gated Multi-head Latent Attention, invece di scommettere tutto su un solo meccanismo.

Attention Residuals, o AttnRes, affronta la profondità anziché la lunghezza della sequenza. Le connessioni residuali convenzionali continuano ad accumulare l’output di ogni layer in un unico flusso, diluendo potenzialmente informazioni importanti nei modelli più profondi. AttnRes consente a un layer di recuperare selettivamente rappresentazioni precedenti tramite attenzione, creando un percorso più pulito attraverso la rete.

Infine c’è Stable LatentMoE, pensato per rendere più stabile il routing sparso alla scala di K3. Mettendo insieme i pezzi, Moonshot dichiara un miglioramento di circa 2,5 volte nell’efficienza complessiva di scaling rispetto a Kimi K2. È una misura aggregata dell’azienda e la pagina di lancio non pubblica ancora curve sufficienti né una definizione precisa del composito. È una dichiarazione seria in attesa del technical report, non una tavola della legge scesa dalla luna.

Il significato di fare di più con meno, secondo Moonshot

I laboratori americani stanno scalando l’infrastruttura con la delicatezza di chi risolve una perdita d’acqua costruendo la diga di Hoover. OpenAI e i suoi partner hanno annunciato Stargate con l’intenzione di investire 500 miliardi di dollari in quattro anni nell’infrastruttura AI statunitense, partendo da 100 miliardi. Anche Anthropic ha raccolto e impegnato capitali enormi per il calcolo, sebbene la sua cultura ingegneristica sembri spesso più attenta all’efficienza di quella di OpenAI.

Quelle cifre sono impegni infrastrutturali, non il conto del training di un singolo modello. Moonshot non ha pubblicato costo totale di K3, numero di GPU, FLOP di training, parametri attivi o dimensione del team dedicato. Le prove disponibili non dimostrano quindi che K3 sia costato un decimo di Claude o GPT. Chi fornisce quel rapporto ha sostituito la contabilità con una fan fiction.

Le prove mostrano invece un’azienda che attacca lo spreco a ogni livello:

• Training: Muon cerca più apprendimento dagli stessi token e dallo stesso calcolo.
• Architettura: il routing sparso evita di attivare tutti i 2,8T parametri per ogni token.
• Contesto: KDA comprime lo stato a lungo raggio invece di pagare ovunque l’attenzione quadratica completa.
• Profondità: AttnRes crea percorsi selettivi verso rappresentazioni precedenti utili.
• Post-training: l’SFT consapevole della quantizzazione punta a pesi MXFP4 e attivazioni MXFP8.
• Inferenza: prefix caching e serving disaggregato riducono il lavoro ripetuto.
• Agenti: gli sciami paralleli spendono calcolo aggiuntivo solo quando scomporre un compito può produrre un risultato migliore.

È la dimostrazione concreta della tesi esposta nell’articolo su come l’AI cinese sta mettendo in crisi il modello americano basato sul capitale. Vincoli alle esportazioni e budget più piccoli non rendono magicamente virtuosi i laboratori cinesi. Rendono l’efficienza una questione di sopravvivenza. I laboratori americani possono spesso comprare un altro cluster. Moonshot ha incentivi più forti a ridisegnare il motore.

Il modello gigante che rende ridicoli i modelli giganti

K3 non è piccolo. Non costa poco da servire. Non dimostra che lo scaling del calcolo sia morto, e la raccomandazione di almeno 64 acceleratori non produrrà una versione Raspberry Pi entro venerdì. Il modello è, in effetti, comicamente enorme.

Ma l’architettura chiarisce un punto utile: scala totale e frugalità computazionale non sono opposti. Si può costruire un serbatoio gigantesco facendo attenzione a quali valvole aprire, cosa mettere in cache, come far viaggiare l’informazione e quando valga la pena pagare per una ricerca parallela.

Il prossimo test non è un altro grafico di lancio. È verificare se Moonshot pubblicherà pesi e technical report nei tempi promessi, se valutatori indipendenti riprodurranno le dichiarazioni di efficienza e se installazioni reali riusciranno a servire economicamente un modello da 2,8T. Le classifiche Arena cambieranno prima di colazione. L’economia dell’infrastruttura è più difficile da incantare.

Se le idee di K3 reggeranno, la corsa alla frontiera diventerà più interessante. OpenAI e Anthropic possono continuare a costruire centrali più grandi. Moonshot sta cercando di far lavorare di più ogni elettrone. Probabilmente vincerà chi saprà fare entrambe le cose, brutta notizia per chi ha costruito il proprio fossato competitivo attorno alla bolletta.