CourionAI
IT
Newsletter
← Tutte le notizie
open-models 3 min di lettura

I pesi di Kimi K3 sono finalmente pubblici: occupano 1,4 terabyte

Moonshot AI ha pubblicato i pesi completi e il rapporto tecnico di Kimi K3, il suo modello da 2.800 miliardi di parametri, insieme a parte dell’infrastruttura necessaria per eseguirlo. L’affermazione da verificare: 2,5 volte più intelligenza per unità di calcolo.

Illustrazione in stile risograph di un’altissima pedana carica di casse d’archivio accanto a un minuscolo lucchetto aperto e a un carrello troppo piccolo

Moonshot AI ha completato la pubblicazione annunciata a metà luglio. Lunedì il laboratorio cinese ha caricato su Hugging Face i pesi di Kimi K3, insieme a un rapporto tecnico su GitHub e, cosa meno comune, a diversi componenti necessari per farlo funzionare davvero: kernel ad alte prestazioni per il meccanismo di attenzione, una libreria per la comunicazione tra gli esperti interni al modello e strumenti per gestire agenti di IA su larga scala. Nel giro di poche ore, la notizia è diventata la più discussa su Hacker News.

Traduciamo le specifiche. Kimi K3 è un modello mixture of experts: contiene numerose sottoreti specializzate e invia ogni porzione di testo soltanto a una manciata di esse. Sulla carta ha 2.800 miliardi di parametri, i valori regolabili in cui è memorizzato ciò che il modello ha appreso, ma per ogni token attiva solo 16 dei suoi 896 esperti. Eseguirlo costa quindi molto meno di quanto faccia pensare il numero complessivo. La finestra di contesto è di un milione di token, più o meno un libro molto lungo mantenuto in memoria tutto insieme, e il modello comprende immagini e video in modo nativo anziché tramite un’aggiunta esterna. Nel rapporto, l’affermazione centrale di Moonshot riguarda l’architettura: Kimi Delta Attention e una nuova struttura degli esperti offrirebbero circa 2,5 volte più intelligenza per unità di calcolo rispetto alla generazione precedente. Nell’Intelligence Index composito di Artificial Analysis K3 segna 57 punti, vicino a GPT-5.6 Sol, e al momento guida la classifica Frontend Code Arena.

Poi c’è il limite pratico, trascurato da molti articoli: il download occupa circa 1,4 terabyte. I pesi aperti ti danno la libertà giuridica e tecnica di eseguire il modello in proprio, ma la libertà non coincide con la fattibilità. Per usare K3 a una velocità accettabile serve un rack di GPU da datacenter, non un portatile. Per la maggior parte delle persone, quindi, la soluzione realistica passa da un fornitore che lo ospita. Esistono inoltre lacune nelle capacità. Test indipendenti dell’AI Security Institute britannico mostrano K3 molto indietro rispetto ai modelli statunitensi di punta nelle attività di sfruttamento delle vulnerabilità informatiche; anche nella matematica difficile ottiene risultati inferiori. Entrambi i segnali sono compatibili con la distillazione, in cui un modello più piccolo viene addestrato sulle risposte di uno più potente. È un’accusa rivolta spesso ai laboratori cinesi, e Moonshot non l’ha affrontata direttamente.

Cosa significa per te: Se ti stai ancora orientando, la lezione utile riguarda ciò che i «pesi aperti» offrono davvero. Non significano gratuità e raramente significano esecuzione locale. Significano che nessuno può spegnere il modello, aumentarne il prezzo o cambiarne il comportamento sotto i tuoi piedi. È importante se ci costruisci sopra un prodotto, molto meno se lo usi per chattare nel browser. Se lavori già con i modelli, K3 merita attenzione soprattutto per la generazione di codice front-end, dove oggi è in testa. Per sicurezza e matematica avanzata, invece, è meglio aspettare che migliorino i risultati indipendenti. Tutti gli altri possono osservare l’effetto sui prezzi: ogni modello aperto credibile pubblicato in Cina riduce ciò che i laboratori occidentali possono chiedere, e prima o poi l’effetto arriva anche sulla tua fattura.

Fonti

Fonti: https://huggingface.co/moonshotai/Kimi-K3

Articolo successivo

Il nuovo modello di sicurezza di Microsoft è piccolo per scelta, ed è questo l’aspetto interessante

MAI-Cyber-1-Flash gestisce circa il 90% delle attività di ricerca delle vulnerabilità e passa il resto a GPT-5.4. Microsoft afferma che la combinazione raggiunge il 96% su CyberGym, dimezzando il costo della configurazione precedente.

Illustrazione in stile risograph di un imbuto che riversa molti piccoli ingranaggi in un ampio canale, mentre alcuni vengono deviati in uno stretto condotto laterale verso un grande ingranaggio