Los próximos chips de IA de Nvidia extraen, según se informa, diez veces más trabajo de la misma energía
CoreWeave afirma que los nuevos sistemas Vera Rubin de Nvidia produjeron, en una prueba inicial, unas diez veces más tokens por megavatio que la generación Blackwell anterior. Qué significa «tokens por megavatio» y por qué decide si la IA puede seguir creciendo.
El proveedor de nube CoreWeave publicó cifras iniciales de rendimiento del sistema de IA de próxima generación de Nvidia, el Vera Rubin NVL72, y el titular es llamativo: alrededor de diez veces más «tokens por megavatio» que la generación Blackwell anterior. En la prueba, que ejecutaba un modelo de razonamiento de DeepSeek, un bastidor Blackwell produjo, según se informa, unos 80.000 tokens por segundo a 150 megavatios, mientras que el bastidor Vera Rubin alcanzó aproximadamente 800.000 tokens por segundo con el mismo consumo eléctrico.
Vamos a desmenuzarlo, porque dos trozos de jerga hacen el trabajo pesado. Un «token» es un fragmento de texto que un modelo de IA lee o escribe, de forma muy aproximada una palabra o parte de una palabra; cuando un chatbot te responde, está produciendo tokens. Un «megavatio» es simplemente una unidad de potencia eléctrica, del tipo que se utiliza para dimensionar centros de datos y centrales eléctricas. Así que «tokens por megavatio» es una forma elegante de preguntar: ¿cuánto trabajo de IA obtienes por cada unidad de electricidad? Diez veces más significa producir mucho más con la misma energía, o la misma producción con una fracción de ella.
Durante los dos últimos años, la historia de la IA ha sido discretamente una historia de energía. Entrenar y ejecutar grandes modelos consume cantidades enormes de electricidad, y la energía, no los chips, es cada vez más lo que los operadores no consiguen en cantidad suficiente. Por eso el «rendimiento por vatio» se ha convertido en la cifra que Nvidia pone una y otra vez en primer plano: es lo que decide si una empresa puede atender de forma rentable a más usuarios y si el crecimiento de la IA se topa con el muro de la red eléctrica. Un salto de este tamaño, si se confirma, da al sector algo de margen. Según se informa, los bastidores Vera Rubin están aumentando su despliegue en CoreWeave, Google Cloud, Microsoft Azure y Oracle.
Qué significa esto para ti: Para la mayoría de las personas, hoy no cambia nada, y no pasa nada. No vas a comprar uno de estos bastidores. Pero sus efectos indirectos te alcanzan de todos modos. Una inferencia más barata y eficiente, el término del sector para ejecutar un modelo entrenado y responder solicitudes, es lo que permite a las empresas regalar potentes funciones de IA, ejecutar modelos más grandes detrás de tus aplicaciones favoritas o reducir precios. También suaviza una de las críticas más incómodas al auge de la IA, su apetito energético, aunque no la elimina, ya que una mayor eficiencia a menudo solo invita a un uso mayor.
Conviene mantener las expectativas a ras de suelo: se trata de una única prueba de un proveedor y su socio, y CoreWeave es a la vez socio de nube de Nvidia e inversor de Nvidia. El resultado publicado no incluye suficiente detalle de la configuración para que un laboratorio externo lo reproduzca de manera independiente. Impresionante y posiblemente real, pero un estreno de marketing, no una medición revisada por pares.
Fuentes
Samsung negocia respaldar a Mistral y empuja al campeón europeo de la IA hacia una valoración de 20.000 millones de euros
Según se informa, Samsung sopesa una inversión de alrededor de 1.000 millones de euros en el laboratorio francés de IA Mistral, como parte de una ronda que valoraría a la compañía cerca de los 20.000 millones. Por qué un gran fabricante coreano de electrónica quiere una parte de la respuesta europea a OpenAI.
