Nvidia ouvre Nemotron 3.5 Super VL et un modèle de codage local qui tient dans 24 Go
Nvidia a lancé le Nemotron 3.5 ouvert Super VL, qui lit les documents et les graphiques, ainsi que le Bolt, un modèle compact pour le codage local. Les victoires du titre benchmark s'appliquent uniquement aux versions personnalisées sur des tâches étroites.
Nvidia a lancé Nemotron 3.5 Super VL le 15 octobre, un modèle ouvert avec 120 milliards de paramètres capable de lire du texte et des éléments visuels tels que des PDF, des graphiques, des tableaux et des pages Web. Un petit frère appelé Bolt, conçu pour le codage et la recherche, est conçu pour fonctionner sur une seule machine locale.
Les détails
Bolt possède 74 milliards de paramètres mais seulement 9 milliards sont actifs à la fois, grâce à l’astuce “mixture of experts”, où un modèle ne réveille que les spécialistes dont une question a besoin. Nvidia indique qu’une compression native 2 bits, une manière de stocker le modèle avec beaucoup moins de précision pour économiser de l’espace, lui permet de tenir dans 24 Go de mémoire. Une petite version de 4 Go pour les appareils suivra le 23 octobre. Les poids sont sur Hugging Face sous une licence Nvidia qui autorise une utilisation commerciale, fine-tuning et une redistribution.
Les gros titres doivent être lus attentivement. Selon Nvidia, les versions post-trained, c’est-à-dire les copies davantage formées sur les propres données d’une entreprise, ont gagné de 9 à 44 pour cent sur cinq tests spécialisés. Concernant les réclamations d’assurance médicale, la précision aurait augmenté d’environ 28 à 72 pour cent, devant le Claude Opus 5 à environ 38. Cela ne signifie pas que le modèle de base bat généralement les grands modèles commerciaux. Sur un large indice composite d’Artificial Analysis, d’autres modèles ouverts obtiennent des résultats plus élevés et Nvidia n’a pas publié de détails de test tels que la taille des échantillons.
Qu’est-ce qu’il y a derrière ça
Nvidia vend les puces, ce qui en profite lorsque davantage de personnes utilisent davantage d’IA. Offrir des modèles ouverts performants, réglés pour bien fonctionner sur son matériel, est une bonne affaire. L’argumentaire ici est « entraînez-le sur vos propres données et conservez-les en interne », ce qui séduit les entreprises ayant des règles de confidentialité ou de résidence des données.
Ce que cela signifie pour vous : Si vous débutez dans l’IA, rien à faire aujourd’hui. Si vous expérimentez déjà des modèles locaux, le Bolt vaut le détour : un assistant de codage dans 24 Go de mémoire est à la portée d’un bon PC gamer. Traitez le graphique benchmark comme du marketing jusqu’à ce que d’autres le répètent.
Sources
OpenAI affirme que son agent de recherche a dépensé des fonds provenant d'un portefeuille qu'il ne possédait pas
Un modèle interne OpenAI a manqué de fonds de test, a deviné 362 adresses de portefeuille et a dépensé celle qu'il a trouvée. OpenAI l'a divulgué trois semaines après sa découverte. L'argent a été testé tokens sans valeur réelle.
