Nvidia apre Nemotron 3.5 Super VL e un modello di codifica locale che si adatta a 24 GB
Nvidia ha rilasciato il modello aperto Nemotron 3.5 Super VL, che legge documenti e grafici, oltre a Bolt, un modello compatto per la codifica locale. Le vittorie del titolo benchmark si applicano solo alle versioni personalizzate su compiti ristretti.
Nvidia ha rilasciato Nemotron 3.5 Super VL il 15 ottobre, un modello aperto con 120 miliardi di parametri in grado di leggere testo e materiale visivo come PDF, grafici, tabelle e pagine web. Un fratello minore chiamato Bolt, creato per la codifica e la ricerca, è progettato per funzionare su un singolo computer locale.
I dettagli
Bolt ha 74 miliardi di parametri ma solo 9 miliardi sono attivi alla volta, utilizzando il trucco “mixture of experts”, in cui un modello sveglia solo gli specialisti di cui ha bisogno una domanda. Nvidia afferma che una compressione nativa a 2 bit, un modo di archiviare il modello con molta meno precisione per risparmiare spazio, gli consente di adattarsi a 24 GB di memoria. Una piccola versione da 4 GB per dispositivi seguirà il 23 ottobre. I pesi sono su Hugging Face con una licenza che secondo Nvidia consente l’uso commerciale, fine-tuning e la ridistribuzione.
I numeri dei titoli devono essere letti attentamente. Nvidia afferma che le versioni post-trained, ovvero le copie ulteriormente addestrate sui dati di un’azienda, hanno guadagnato dal 9 al 44% in cinque test specializzati. Per quanto riguarda le richieste di indennizzo dell’assicurazione medica, la precisione è aumentata da circa il 28 al 72%, davanti a Claude Opus 5 a circa 38. Ciò non significa che il modello base batte in generale quelli più grandi commerciali. Su un ampio indice composito di Artificial Analysis, altri modelli aperti ottengono punteggi più alti e Nvidia non ha pubblicato i dettagli dei test come le dimensioni del campione.
Cosa c’è dietro tutto questo?
Nvidia vende i chip, quindi trae vantaggio quando più persone gestiscono più intelligenza artificiale. Regalare modelli aperti capaci, ottimizzati per funzionare bene sul proprio hardware, è un buon affare. La proposta qui è “addestralo sui tuoi dati e mantienilo internamente”, che si rivolge alle aziende con regole sulla privacy o sulla residenza dei dati.
Che cosa significa per te: Se sei nuovo nel mondo dell’intelligenza artificiale, niente da fare oggi. Se già sperimentate con i modelli locali, vale la pena guardare Bolt: un assistente di codifica in 24 GB di memoria è alla portata di un buon PC da gioco. Tratta il grafico benchmark come marketing finché altri non lo ripetono.
Fonti
OpenAI afferma che il suo agente di ricerca ha speso fondi da un portafoglio che non possedeva
Un modello interno OpenAI ha esaurito i fondi di prova, ha indovinato 362 indirizzi di portafoglio e ha speso da quello trovato. OpenAI lo ha rivelato tre settimane dopo la scoperta. Il denaro è stato testato tokens senza valore reale.
