Tencent Open Source Hy4, un modello da 770 miliardi di parametri creato per il lavoro d'ufficio

Tencent ha rilasciato un’anteprima open source di Hy4, la prossima generazione della sua famiglia di modelli Hunyuan. I numeri sono grandi: 770 miliardi di parametri totali, di cui 49 miliardi attivi per richiesta, e una finestra di contesto superiore al milione di token. I parametri sono i valori regolabili che un modello apprende durante l’addestramento, più o meno una misura della capacità grezza. Il divario tra totale e attivo è il trucco della miscela di esperti, in cui il modello contiene molte sottoreti specializzate ma ne attiva solo una frazione per ogni determinata richiesta, il che mantiene i costi di gestione molto al di sotto di quanto suggerisce la dimensione del titolo. La finestra di contesto indica la quantità di testo che il modello può tenere a mente contemporaneamente e un milione di token equivale all’incirca a un piccolo scaffale di libri.

Ciò che risalta è l’obiettivo. Tencent non ha lanciato Hy4 nelle classifiche di riferimento, ma in quella che chiama produttività nel mondo reale: codifica in lunghe sessioni, fogli di calcolo e documenti, analisi finanziaria e ricerca scientifica. In una valutazione interna cieca con 163 esperti in 203 attività di ingegneria, l’anteprima di Hy4 ha ottenuto una media di 2,99 su 4,00, leggermente superiore a GLM-5.3 a 2,92 e Kimi K3 a 2,94. Tencent afferma inoltre che il modello ha preso parte al proprio sviluppo, proponendo ed eseguendo esperimenti su metodi di training e codice di basso livello, e che ha analizzato i propri colli di bottiglia nell’inferenza abbastanza bene da aumentare il throughput end-to-end del 31,8%. Il prezzo dell’API è di 0,834 dollari per milione di token di input e 2,501 dollari per milione di token di output, con riscontri nella cache a 0,042 dollari.

Che cosa sta realmente succedendo qui: pesi aperti significa che i file del modello addestrato vengono pubblicati, quindi chiunque abbia abbastanza hardware può scaricarlo ed eseguirlo da solo invece di chiamare un’API. I laboratori cinesi hanno fatto di questa la loro strategia competitiva e il ritmo è diventato implacabile. Hy4 arriva la stessa settimana dei pesi di GLM-5.3 e giorni dopo il rilascio di Qwen e IBM. Ciascuno di questi cali abbassa il prezzo di un’intelligenza artificiale capace per tutti, compresi i clienti dei laboratori chiusi, perché tali laboratori devono pagare il prezzo rispetto a qualcosa che è libero di ospitarsi autonomamente. Vale la pena mantenere le aspettative ancorate alla pretesa di auto-miglioramento: un modello che suggerisce ottimizzazioni al proprio codice di inferenza è ingegneria reale e utile, ma è molto lontano da un sistema che si ridisegna.

Cosa significa per te: quasi nessuno utilizza un modello 770B a casa, quindi per la maggior parte delle persone l’effetto pratico arriva indirettamente, attraverso prezzi API più economici e versioni distillate più piccole che seguono successivamente. Se sei curioso, Hy4 può essere provato gratuitamente per due settimane tramite WorkBuddy e CodeBuddy di Tencent ed è raggiungibile tramite OpenRouter. Se paghi già per un abbonamento alla codifica AI, la mossa utile non è cambiare oggi ma tenere d’occhio il prezzo per token nel prossimo trimestre, perché questo è esattamente il tipo di rilascio che lo muove. E se la residenza dei dati è importante per te, tieni presente che si tratta di prodotti cloud cinesi, mentre i pesi aperti stessi possono essere eseguiti dove preferisci.

Fonti

• Versioni Tencent e anteprima Tencent Hy4 open source (Tencent)
• Anteprima Hy4 open source Tencent con parametri 770B e contesto token 1M (TechNode)