CourionAI
FR
Newsletter
← Toutes les actus
ai-basics 2 min de lecture

Les prochaines puces d’IA de Nvidia tireraient dix fois plus de travail de la même énergie

CoreWeave affirme que les nouveaux systèmes Vera Rubin de Nvidia ont produit, dans un premier benchmark, environ dix fois plus de tokens par mégawatt que la génération Blackwell. Ce que signifie « tokens par mégawatt » et pourquoi cela décide de la capacité de croissance de l’IA.

Un éclair alimente une baie de serveurs près d’une petite flèche et d’une flèche beaucoup plus grande, avec un compteur de vitesse monté haut à côté d’une feuille de sauge

Le fournisseur cloud CoreWeave a publié des chiffres de benchmark précoces pour le système d’IA de prochaine génération de Nvidia, le Vera Rubin NVL72, et le titre est frappant : environ dix fois plus de « tokens par mégawatt » que la génération Blackwell précédente. Dans le test, utilisant un modèle DeepSeek de raisonnement, une baie Blackwell aurait produit autour de 80 000 tokens par seconde à 150 mégawatts, tandis que la baie Vera Rubin aurait atteint environ 800 000 tokens par seconde pour la même consommation.

Décomposons cela, car deux termes techniques portent l’essentiel. Un « token » est un morceau de texte qu’un modèle d’IA lit ou écrit, très grossièrement un mot ou une partie de mot ; lorsqu’un chatbot vous répond, il produit des tokens. Un « mégawatt » est une unité de puissance électrique, celle employée pour dimensionner les centres de données et centrales. « Tokens par mégawatt » est donc une manière savante de demander : quelle quantité de travail d’IA obtient-on par unité d’électricité ? Dix fois plus signifie beaucoup plus de sortie avec la même énergie, ou la même sortie avec une fraction de celle-ci.

Depuis deux ans, l’histoire de l’IA est discrètement aussi une histoire d’énergie. Entraîner et exécuter de grands modèles consomme énormément d’électricité, et la puissance, davantage que les puces, devient ce dont les opérateurs manquent. Voilà pourquoi la « performance par watt » est le chiffre que Nvidia place sans cesse au premier plan : il détermine si une entreprise peut servir plus d’utilisateurs de façon rentable et si la croissance de l’IA rencontre le mur du réseau électrique. Un saut de cette ampleur, s’il se confirme, donne au secteur un peu d’air. Des baies Vera Rubin seraient en montée en puissance chez CoreWeave, Google Cloud, Microsoft Azure et Oracle.

Ce que cela signifie pour vous: Pour la plupart des gens, rien ne change aujourd’hui, et ce n’est pas grave. Vous n’achèterez pas l’une de ces baies. Mais les effets indirects vous atteignent tout de même. Une inférence moins chère et plus efficace, le terme du secteur pour exécuter un modèle entraîné afin de répondre aux demandes, permet aux entreprises d’offrir de puissantes fonctions d’IA, de faire tourner de plus gros modèles derrière vos applications préférées ou de baisser les prix. Elle atténue aussi l’une des critiques les plus inconfortables du boom de l’IA, son appétit électrique, sans l’effacer, car plus d’efficacité invite souvent simplement à plus d’usage.

Il faut garder les attentes mesurées : c’est le benchmark unique d’un fournisseur partenaire, et CoreWeave est à la fois partenaire cloud de Nvidia et entreprise dans laquelle Nvidia investit. Le résultat publié ne donne pas assez de détails de configuration pour qu’un laboratoire extérieur puisse le reproduire indépendamment. Impressionnant et plausiblement réel, mais il s’agit d’un lancement marketing plutôt que d’une mesure évaluée par les pairs.

Sources

Sources: https://wf.coreweave.com/blog/nvidia-vera-rubin-nvl72-on-coreweave-10x-more-tokens-per-megawatt-than-blackwell

Article suivant

Samsung discute d’un soutien à Mistral, poussant le champion européen de l’IA vers une valorisation de 20 milliards d’euros

Samsung envisagerait un investissement d’environ 1 milliard d’euros dans le laboratoire français d’IA Mistral, au sein d’un tour qui valoriserait l’entreprise près de 20 milliards d’euros. Pourquoi un grand fabricant coréen d’électronique veut une part de la réponse européenne à OpenAI.

Deux hautes tours de pièces empilées sont reliées par un pont de pièces, avec une rafale de vent tourbillonnante et une côte européenne estompée en arrière-plan