Kimi K3, Pesi Aperti e la Settimana in Cui l’AI Ha Scelto la Competizione

An open Kimi K3 neural network structure facing sealed AI towers
In questa pagina
  1. L’uscita promessa di Kimi K3 e davvero avvenuta
  2. L’architettura non e solo 2,8 trilioni di parametri con un impermeabile
  3. Kimi Delta Attention gestisce la strada lunga
  4. Il modello e stato addestrato per essere messo in produzione, non imbalsamato dopo il training
  5. La scheda benchmark e impressionante, con le solite clausole scritte in piccolo
  6. “Open” ha una licenza, e questa morde
  7. Hacker News ha provato subito a infilarlo in cantina
  8. La lettera dell’industria sostenuta da NVIDIA e interessata. Ed e anche corretta.
  9. I modelli chiusi sono comodi. Un mondo di modelli chiusi e una pessima idea.
  10. Gli open weights non sono automaticamente sicuri, democratici o economici
  11. Kimi K3 cambia il tavolo della trattativa

🇬🇧 Read this article in English

I pesi completi di Kimi K3 sono adesso su Hugging Face. Non un assaggino, non una API con il cappellino “open”, non una promessa per il prossimo trimestre. Moonshot AI ha pubblicato un modello da 2,8 trilioni di parametri, la sua licenza personalizzata, istruzioni di inferenza e un report tecnico di 48 pagine. L’archivio e aperto. Potresti aver bisogno di un data center per tirare fuori i cassetti.

La tempistica e quasi troppo perfetta. Tre giorni prima, NVIDIA ha pubblicato Open Weights and American AI Leadership, una lettera firmata da NVIDIA, OpenAI, Google, Microsoft, Meta, Mistral, Hugging Face, Mozilla, IBM, AMD, Y Combinator e decine di altri. Il grande laboratorio di frontiera che manca da quel footer affollato e Anthropic.

Poi Anthropic ha rilasciato Claude Opus 5, OpenAI ha introdotto una funzionalita opzionale di ChatGPT che collega cartelle cliniche e dati Apple Health, e Moonshot ha rilasciato pesi checkpoint scaricabili che gli utenti possono ispezionare, modificare e self-hostare, nel rispetto della licenza e di requisiti hardware non proprio da salotto. Questa e l’industria AI in una settimana: sistemi sempre piu capaci che entrano sempre piu a fondo nella vita privata, qualche vendor che ci chiede di fidarci della loro scatola sigillata, e un modello open-weight abbastanza grande da rendere quella fiducia facoltativa per organizzazioni con hardware serio.

Questa non e davvero una storia su quale chatbot vince un benchmark per 0,7 punti. E una storia su chi si prende il diritto di possedere il livello di intelligenza dell’economia.

L’uscita promessa di Kimi K3 e davvero avvenuta

Quando ho scritto di Kimi K3 il 20 luglio, Moonshot aveva lanciato il modello in hosting e promesso i pesi entro il 27 luglio. La descrizione corretta allora era “open-weight con un asterisco”. L’asterisco e sparito.

Il repository su Hugging Face ora contiene il modello, e il repository GitHub contiene codice, licenza e report tecnico. Moonshot chiama K3 il primo modello open nella classe 3T. Piu precisamente, ha 2,8 trilioni di parametri totali e 104,2 miliardi di parametri attivati per token.

Quel secondo numero conta di piu nell’operativita quotidiana. K3 e un modello sparso Mixture of Experts. Ha 896 expert instradati e ne attiva 16 per ogni token. Un hotel gigantesco, si, ma ogni ospite riceve comunque solo sedici chiavi invece di buttarsi in tutte le 896 stanze.

Il modello e multimodale nativo, accetta testo, immagini e video, e supporta una finestra di contesto da un milione di token. Il post-training include ragionamento generale, coding e lavoro agentico a piu livelli di sforzo di ragionamento. Moonshot dice che e progettato per lunghe sessioni di ingegneria e lavoro della conoscenza, dove il modello mantiene strumenti, repository, documenti e la propria cronologia di esecuzione nel contesto.

La cosa piu rinfrescante e che l’abstract del report ammette che K3 resta dietro ai migliori modelli proprietari, nello specifico Claude Fable 5 e GPT-5.6 Sol, nelle prestazioni complessive. Un report tecnico che riconosce che il prodotto di qualcun altro e migliore e praticamente una specie in via di estinzione.

Un data center a mixture-of-experts sparso con solo alcuni percorsi illuminati
K3 ha 896 porte di expert. Ogni token ne apre 16, perche anche l’intelligenza artificiale ha imparato a non riscaldare tutto l’edificio.

L’architettura non e solo 2,8 trilioni di parametri con un impermeabile

La pretesa di importanza di K3 si basa su uno stack di efficienza, non solo sulla dimensione. Il report dice che i cambiamenti di architettura, dati e training portano a un miglioramento di circa 2,5x dell’efficienza di scaling rispetto a Kimi K2 su curve di validation loss fittate. E un risultato da vendor, non una legge della natura replicata in modo indipendente, ma i meccanismi sono abbastanza concreti da poter essere ispezionati.

Kimi Delta Attention gestisce la strada lunga

Ogni blocco di attenzione ripetuto usa tre layer Kimi Delta Attention seguiti da un layer globale Gated MLA. KDA e un meccanismo di attenzione lineare ricorrente con un forget gate per canale. Il design ricorrente riduce il costo quadratico nella lunghezza della sequenza della attenzione convenzionale in ogni layer, mentre l’attenzione globale periodica ripristina un mixing di token ad alta capacita.

Attention Residuals cambiano il modo in cui l’informazione si muove in profondita. Invece di far ereditare a ogni layer un unico flusso residuo accumulato come una fotocopia di una fotocopia, i moduli possono recuperare selettivamente rappresentazioni dall’embedding, dal blocco corrente e dai blocchi precedenti. Lungo la larghezza del modello, Stable LatentMoE esegue l’instradamento sparso degli expert.

Per la visione, Moonshot ha addestrato MoonViT-V2 da zero con lo stesso obiettivo next-token, invece di attaccare un encoder visivo pre-addestrato separatamente. Token testuali e visivi vengono intercalati durante il pretraining. Il corpus visivo include caption, OCR, video, pagine web, giochi, schemi CAD e codice renderizzato.

Il modello e stato addestrato per essere messo in produzione, non imbalsamato dopo il training

K3 usa quantization-aware training a partire dalla supervised fine-tuning. I pesi degli expert sono rappresentati in MXFP4, le attivazioni degli expert in MXFP8, mentre i componenti non-expert restano in BF16. Questo rende il checkpoint rilasciato piu piccolo e riduce i costi di serving senza chiedere a terzi di schiacciare un modello finito ad alta precisione e sperare che la personalita sopravviva.

Moonshot estende il contesto in modo progressivo da 8K a 64K durante il pretraining, poi da 256K a un milione di token durante il cooldown. Per il reinforcement learning agentico a scala di un milione di token, il team descrive stato persistente del sandbox, prefix cache riutilizzabili, offload su CPU e training co-locato. Dice che singoli esperimenti RL con contesto 1M sono rimasti entro poche centinaia di GPU. Questo e “efficiente” nel linguaggio dei frontier lab, un dialetto in cui poche centinaia di GPU sono considerate sobrie.

Il report non divulga il conteggio totale dei token di pretraining, i FLOPs totali di training, la bolletta hardware completa, la provenienza completa dei dati o una valutazione sostanziale della sicurezza del modello. Descrive categorie ampie di dati e pipeline di filtraggio, ma non abbastanza per permettere a esterni di auditare copyright, contaminazione o lacune di rappresentazione. I pesi aperti rendono possibile una ispezione successiva. Non trasformano retroattivamente una disclosure incompleta in una completa.

La scheda benchmark e impressionante, con le solite clausole scritte in piccolo

Moonshot riporta 73,0 su DeepSWE, 84,6 su Terminal-Bench 2.1, 71,3 su FrontierSWE, 91,2% su BrowseComp e 95,0 F1 su DeepSearchQA. Riporta anche 94,5% su MCPMark-Verified e punteggi multimodali solidi, incluso 91,1% su OmniDocBench.

Questi risultati riportati rendono K3 un contendente plausibile di frontiera. Non dimostrano che vinca su ogni workload. Diversi confronti sono eseguiti da Moonshot, alcuni usano benchmark interni, i modelli ricevono massimo sforzo di ragionamento, e gli harness agentici differiscono. Il report etichetta le valutazioni interne, il che e meglio che nasconderle in una nota a pie pagina, ma ora provider indipendenti devono riprodurre i risultati pubblici sul checkpoint rilasciato.

I pesi rilasciati rendono test indipendenti e version-pinned molto piu riproducibili, anche se la replica esatta dipende ancora dal fatto che Moonshot pubblichi prompt, harness, ambienti tool e impostazioni di inferenza. Il benchmarking dei modelli chiusi e in parte teatro perche l’attore puo cambiarsi dietro le quinte mentre il pubblico sta ancora dando il voto all’ultimo atto. Con K3, i ricercatori possono congelare un checksum, ispezionare il codice di inferenza pubblico, variare la quantizzazione, misurare energia e rieseguire lo stesso artefatto anche il mese prossimo.

“Open” ha una licenza, e questa morde

Open weight e open source non sono sinonimi. Open weights rende disponibili i parametri addestrati, mentre lo status open source dipende dal fatto che software, documentazione e licenza rispettino una definizione open source applicabile. Nessuno dei due termini implica necessariamente che il training originale sia riproducibile. Pesi scaricabili sono enormemente utili, ma non rivelano ogni esempio di training ne rendono il modello economico da far girare.

La Kimi K3 License consente uso, copia, modifica, distribuzione, fine-tuning e opere derivate. Impone anche due condizioni notevoli:

  • Un’azienda che gestisce un business model-as-a-service con oltre 20 milioni di dollari di ricavi aggregati in qualunque periodo consecutivo di 12 mesi deve negoziare un accordo separato con Moonshot prima dell’uso commerciale.
  • Un prodotto commerciale con oltre 100 milioni di utenti attivi mensili o oltre 20 milioni di dollari di ricavi mensili deve mostrare in modo ben visibile “Kimi K3” nella sua interfaccia.

L’uso interno e esente, cosi come i prodotti ufficiali di Moonshot e i partner di inferenza certificati. Questo e molto piu aperto di una API in hosting, ma le condizioni su campo d’uso e commerciale potrebbero impedirgli di qualificarsi come open source secondo i criteri OSI. Diversi commentatori su Hacker News si sono fissati subito su quelle condizioni. Un commentatore ha citato la soglia dei 20 milioni di dollari per i servizi; un altro ha osservato che la regola di attribuzione e marketing intelligente. Giusti entrambi.

Hacker News ha provato subito a infilarlo in cantina

Il primo thread su Hacker News e composto da oltre 400 commenti del tipo di caos utile che una release di pesi genera. La gente ha stimato circa 1,5 TB solo per i pesi MXFP4, ha discusso otto contro sedici GPU B200, ha proposto server usati multi-socket imbottiti di terabyte di RAM, e poi ha calcolato se la bolletta elettrica avrebbe fatto sembrare l’API quasi beneficenza.

Un commentatore ha definito la release storica perche un modello open-weight e finalmente vicino al top, aggiungendo l’importante caveat che la maggior parte degli individui non puo ancora eseguirlo. Un altro ha sostenuto che una privacy estrema puo giustificare inferenza locale lenta. Una risposta ha chiesto se un cloud auditato come AWS non risolva gia il problema. La risposta non e universale: compliance regolatoria, fiducia nell’operatore, giurisdizione estera, segreti industriali e controllo crittografico sono requisiti diversi che gli uffici acquisti mescolano regolarmente in un unico triste foglio di calcolo.

Il thread sul report tecnico ha alzato il livello, da “il mio workstation lo regge?” a “una grande impresa dovrebbe comprarsi un rack?” Un conto della serva suggeriva che un rack GB300 molto utilizzato potrebbe spingere i costi di output sotto quelli delle API frontier in hosting. Le risposte hanno correttamente aggiunto amministratori, finanziamento, utilizzo, guasti e la possibilita che il modello brillante di oggi diventi l’antiquariato costoso del prossimo trimestre.

Un commento conciso ha catturato l’argomento economico: avere questi modelli in aperto mette un tetto al margine di inferenza. Anche le aziende che non scaricheranno mai K3 potrebbero beneficiarne. Un’uscita credibile cambia il prezzo che un provider chiuso puo imporre, il contratto che puo pretendere e quanta dipendenza il cliente deve ingoiare.

Quel tetto non e ne automatico ne universale. I requisiti hardware di K3 limitano il numero di operatori credibili, e la sua licenza richiede alle aziende model-as-a-service piu grandi di ottenere un accordo separato. Questi vincoli potrebbero ridurre proprio quella competizione di inferenza che gli open weights altrimenti incoraggerebbero.

La lettera dell’industria sostenuta da NVIDIA e interessata. Ed e anche corretta.

La lettera sostenuta da NVIDIA sostiene che la leadership americana non sara giudicata dal possesso di un unico modello supremo, ma dal fatto che l’AI si diffonda tra fabbriche, ospedali, fattorie, aule e piccole imprese. Chiede ai policymaker di espandere l’accesso al compute, investire in dataset condivisi e strumenti di valutazione, evitare restrizioni premature sui modelli open e distinguere la distillazione legittima dall’estrazione illegale.

NVIDIA vende le pale, quindi ovviamente ha scoperto un principio morale che impone a piu persone di scavare. Gli open weights creano domanda su chip, cloud, fine-tuning, software di inferenza e deployment enterprise. Questo non li squalifica. L’interesse personale e una buona politica ogni tanto siedono sulla stessa sedia senza che il mobile esploda.

I firmatari sono notevoli perche includono concorrenti diretti e vari proprietari di modelli frontier chiusi: OpenAI, Google e Microsoft hanno tutti firmato. La lista include anche AMD, Cloudflare, Cisco, Dell, GitHub, Meta, Mistral, Mozilla, la Linux Foundation, Hugging Face, IBM, Perplexity, Replit, Y Combinator e molte startup infrastrutturali.

Anthropic non ha firmato. Il PDF non spiega il motivo, quindi sostenere che sia un disaccordo di policy sarebbe fan fiction. Quello che possiamo dire e che Anthropic ha lanciato Claude Opus 5 come servizio chiuso nella stessa settimana e ha dichiarato capacita quasi da Fable 5 a meta prezzo. Prodotto eccellente, motore sigillato.

Un mercato competitivo aperto di motori AI che fronteggia torri sigillate a scatola nera
La competizione e disordinata. I monopoli sono meravigliosamente organizzati, di solito intorno alla fattura.

I modelli chiusi sono comodi. Un mondo di modelli chiusi e una pessima idea.

Una API chiusa puo essere la scelta razionale. Elimina le operazioni hardware, consegna upgrade frequenti e puo offrire compliance, supporto e controlli di sicurezza robusti. Claude, GPT e Gemini spesso guidano le valutazioni di capacita. Far finta del contrario non aiuta la tesi dei modelli aperti.

Il problema inizia quando la comodita diventa l’unico assetto costituzionale disponibile per l’intelligenza delle macchine.

  • I prezzi diventano politica. Se tre laboratori mediano il ragionamento avanzato, i loro margini e bundle di prodotto decidono quali applicazioni sono economicamente fattibili.
  • I termini diventano legge. Un provider puo cambiare retention, uso accettabile, comportamento del modello, rate limit o accesso geografico senza consegnarti la versione precedente.
  • La ricerca diventa su permesso. Gli esterni possono sondare input e output, ma non possono ispezionare i pesi, riprodurre un deployment esatto o investigare direttamente meccanismi nascosti.
  • Il fallimento si concentra. Un outage, un errore di policy, una regressione di sicurezza o una richiesta politica possono colpire migliaia di aziende a valle tutte insieme.
  • La conoscenza se ne va con il vendor. Fine-tuning, prompt, valutazioni e progettazione dei workflow si accumulano attorno a un modello che non possiedi e che potresti non riuscire a sostituire.

Questa settimana OpenAI ha detto che oltre 300 milioni di persone ogni settimana fanno a ChatGPT domande di salute, poi ha lanciato una funzionalita che collega cartelle cliniche e Apple Health. OpenAI dice che i dati sanitari connessi e le conversazioni correlate non alleneranno i foundation model ne serviranno per pubblicita mirata. Bene. Ma il punto piu grande e inevitabile: piu il contesto e intimo, piu diventa preziosa un’opzione verificabile per eseguire i modelli su infrastruttura che controlli tu.

Gli open weights non sono automaticamente sicuri, democratici o economici

La controargomentazione piu forte merita piu di un paragrafo cerimoniale. Una volta rilasciati pesi capaci, lo sviluppatore non puo revocarli. Le salvaguardie possono essere rimosse. Capacita cyber, biologiche e di influenza possono essere fine-tunate e distribuite. L’attribuzione diventa piu difficile. K3 e anche cosi grande che l’accesso resta diseguale: un modello scaricabile da 1,5 TB non democratizza l’inferenza di frontiera nello stesso modo in cui lo fa un 7B che gira su un laptop.

La lettera risponde che i difensori hanno bisogno di modelli comparabili, i sistemi chiusi falliscono anche loro, e i servizi concentrati creano single point of failure. In parte e vero, ma “piu occhi” non e un incantesimo. Molte persone possono ispezionare un modello mentre nessuno finanzia la valutazione noiosa, le patch e l’incident response. La sicurezza del software open source funziona quando comunita, vendor e istituzioni fanno quel lavoro, non perche GitHub emetta virtu in onde radio.

Ci servono valutazioni sensibili alle capacita, responsabilita per deployment dannosi, distribuzione sicura dei modelli dove giustificata, difesa cyber seria, reportistica trasparente degli incidenti e accesso al compute per ricercatori indipendenti. Quello che non ci serve e una policy che scambia la segretezza per sicurezza e consegna una concessione permanente sull’intelligenza alle aziende che hanno raccolto piu soldi nel 2025.

Kimi K3 cambia il tavolo della trattativa

K3 non sostituira ogni modello chiuso domani. E enorme, operativo impegnativo, documentato in modo incompleto e coperto da una licenza commerciale custom. Il report di Moonshot stesso dice che i migliori modelli proprietari restano avanti nel complesso.

Eppure K3 cambia cosa puo significare “open” alla frontiera. Un’universita puo studiare l’artefatto reale. Un cloud sovrano puo deployarlo. Un’azienda puo tenere il contesto sensibile on premises. Un concorrente puo distillarlo o specializzarlo nei limiti della licenza. Un provider di inferenza puo esporre l’economia reale del serving. Un team di safety puo testare piu della personalita pubblica che una API decide di mostrare.

Soprattutto, un cliente sufficientemente grande o tecnicamente capace puo indicare i pesi e dire: “Abbiamo una via d’uscita.” I mercati si comportano molto meglio quando quella frase e credibile.

Il futuro non dovrebbe essere un modello open che sconfigge un modello chiuso. Sarebbe solo una monocultura diversa. Dovrebbe essere un mercato plurale di servizi chiusi, open weights, piccoli modelli locali, modelli giganti condivisi, derivati specializzati e valutatori indipendenti, tutti a costringersi a vicenda a migliorare. La competizione non e un effetto collaterale del progresso dell’AI. E il meccanismo che impedisce al progresso di trasformarsi in rendita.

Kimi K3 non e la liberta in una cartella di download. Sono 2,8 trilioni di parametri di leva. Per una settimana insolitamente decisiva nell’AI, potrebbe essere il benchmark piu importante di tutti.

English|Italiano