I prossimi chip IA di Nvidia ricaverebbero dieci volte più lavoro dalla stessa energia
CoreWeave afferma che i nuovi sistemi Vera Rubin di Nvidia hanno prodotto circa dieci volte più token per megawatt rispetto a Blackwell in un primo benchmark.
Il provider cloud CoreWeave ha pubblicato i primi benchmark del sistema IA di nuova generazione di Nvidia, Vera Rubin NVL72. Il titolo è notevole: circa dieci volte più «token per megawatt» della precedente generazione Blackwell. Nel test con un modello DeepSeek di ragionamento, un rack Blackwell avrebbe prodotto circa 80.000 token al secondo a 150 megawatt, mentre il rack Vera Rubin avrebbe raggiunto circa 800.000 token al secondo con lo stesso assorbimento.
Due termini spiegano tutto. Un token è un pezzo di testo letto o scritto da un modello, grossomodo una parola o parte di parola; quando un chatbot risponde, produce token. Un megawatt è un’unità di potenza elettrica usata per dimensionare data center e centrali. «Token per megawatt» chiede quanta IA si ottenga per ogni unità di elettricità. Dieci volte di più significa molta più uscita con la stessa energia, oppure la stessa uscita con una frazione.
Da due anni la storia dell’IA è anche una storia di energia. Addestrare e far girare grandi modelli consuma enormi quantità di elettricità, e la potenza, non i chip, è sempre più ciò di cui gli operatori non hanno abbastanza. Per questo Nvidia mette al centro la prestazione per watt: decide se un’azienda può servire più utenti con profitto e se la crescita IA urta il muro della rete elettrica. Un salto simile, se regge, dà respiro al settore. Rack Vera Rubin sarebbero in arrivo presso CoreWeave, Google Cloud, Microsoft Azure e Oracle.
Cosa significa per te: Oggi per la maggior parte delle persone non cambia nulla. Non comprerai uno di questi rack, ma gli effetti ti raggiungono: un’inferenza più economica ed efficiente, cioè l’esecuzione di un modello addestrato per rispondere, permette di offrire funzioni IA potenti, usare modelli più grandi nelle app o abbassare i prezzi. Attenua il problema del consumo elettrico ma non lo cancella, perché più efficienza spesso invita più uso. Restiamo cauti: è un benchmark di un singolo venditore-partner; CoreWeave è partner cloud e partecipata Nvidia, e mancano dettagli per una riproduzione indipendente. È impressionante e plausibile, ma un debutto di marketing, non una misura sottoposta a revisione paritaria.
Fonti
Samsung tratta un investimento in Mistral, spingendo il campione europeo dell’IA verso una valutazione di 20 miliardi di euro
Samsung valuterebbe un investimento di circa 1 miliardo di euro nel laboratorio francese Mistral, in un round che potrebbe valere l’azienda quasi 20 miliardi.
