Nvidia abre Nemotron 3.5 Super VL y un modelo de codificación local que cabe en 24 GB
Nvidia lanzó el Nemotron 3.5 Super VL abierto, que lee documentos y gráficos, además del Bolt, un modelo compacto para codificación local. Las ganancias del título benchmark se aplican solo a versiones personalizadas en tareas específicas.
Nvidia lanzó Nemotron 3.5 Super VL el 15 de octubre, un modelo abierto con 120 mil millones de parámetros que puede leer texto y material visual como archivos PDF, gráficos, tablas y páginas web. Un hermano menor llamado Bolt, creado para codificación e investigación, está diseñado para ejecutarse en una única máquina local.
Los detalles
Bolt tiene 74 mil millones de parámetros pero solo 9 mil millones están activos a la vez, usando el truco “mixture of experts”, donde un modelo despierta solo a los especialistas que una pregunta necesita. Nvidia dice que una compresión nativa de 2 bits, una forma de almacenar el modelo con mucha menos precisión para ahorrar espacio, le permite caber en 24 GB de memoria. El 23 de octubre llegará una pequeña versión de 4 GB para dispositivos. Los pesos están en Hugging Face bajo una licencia que, según Nvidia, permite el uso comercial, fine-tuning y redistribución.
Las cifras de los titulares deben leerse con atención. Nvidia dice que las versiones post-trained, es decir, copias entrenadas con los datos propios de una empresa, ganaron entre un 9 y un 44 por ciento en cinco pruebas especializadas. En las reclamaciones de seguros médicos, la precisión supuestamente aumentó de aproximadamente 28 a 72 por ciento, por delante del Claude Opus 5 en aproximadamente 38. Eso no significa que el modelo base supere a los grandes comerciales en general. En un índice compuesto amplio de Artificial Analysis, otros modelos abiertos obtienen puntuaciones más altas y Nvidia no ha publicado detalles de las pruebas, como los tamaños de las muestras.
¿Qué hay detrás de esto?
Nvidia vende los chips, por lo que se beneficia cuando más personas ejecutan más IA. Regalar modelos abiertos capaces, ajustados para funcionar bien en su hardware, es un buen negocio. El argumento aquí es “entrenarlo con sus propios datos y mantenerlos internamente”, lo que atrae a empresas con reglas de privacidad o residencia de datos.
Qué significa esto para ti: Si eres nuevo en la IA, no tienes nada que hacer hoy. Si ya está experimentando con modelos locales, vale la pena echarle un vistazo al Bolt: un asistente de codificación con 24 GB de memoria está al alcance de una buena PC para juegos. Trate el gráfico benchmark como marketing hasta que otros lo repitan.
Fuentes
OpenAI dice que su agente de investigación gastó fondos de una billetera que no era de su propiedad
Un modelo interno OpenAI se quedó sin fondos de prueba, adivinó 362 direcciones de billetera y gastó en una que encontró. OpenAI lo reveló tres semanas después del descubrimiento. El dinero fue una prueba tokens sin valor real.
