DeepSeek estrena DeepInfer, el motor que utiliza para dar servicio a su modelo más económico

DeepSeek ha publicado DeepInfer, el software que dice utilizar para ofrecer su modelo V4.1-Flash a los clientes. Según The Decoder del 20 de octubre, el código se publica bajo la licencia Apache 2.0, que permite el uso gratuito, incluso en productos comerciales. Está construido sobre vLLM, una popular herramienta de servidor de código abierto, y agrega rutinas informáticas más rápidas, formas de distribuir el trabajo en muchos chips y técnicas de generación de texto más rápidas.

DeepSeek también lanzó un complemento llamado deepseek-recipe. Su trabajo es reproducir la forma en que la API oficial de DeepSeek procesa el texto, de modo que un modelo que usted aloja se comporta igual que el que alquilaría. La compañía dice que el código para sus futuros modelos también estará abierto. Su objetivo declarado, publicado en X, es “ayudar a la comunidad a reducir los costos de computación, reducir el uso de energía y hacer que la IA sea más asequible”.

Aquí está la parte honesta: el anuncio llega sin números benchmark, aceleraciones o comparaciones de costos. La idea de que DeepInfer hace que V4.1-Flash sea económico de ejecutar es el encuadre de DeepSeek, no algo medido en la cobertura que encontramos. La opinión de The Decoder de que esto añade presión sobre los precios a los proveedores occidentales, y puede tener motivaciones políticas, es el análisis del autor y no algo que DeepSeek haya dicho.

Qué hay detrás de esto: “inferencia” es simplemente el acto de utilizar un modelo entrenado, en lugar de entrenarlo. Cada vez que envías un mensaje, un servidor hace una inferencia. El entrenamiento ocurre una vez y cuesta una fortuna; La inferencia ocurre miles de millones de veces, por lo que reducir un poco el costo de cada solicitud suma. Un motor de servicio es el controlador de tráfico que decide cómo se agrupan las solicitudes, qué chip maneja qué parte y qué tan rápido regresan las palabras. Dos empresas pueden utilizar el mismo modelo y pagar facturas muy diferentes según este software. Al publicar el suyo, DeepSeek entrega a todos los demás la versión optimizada que guarda para sí.

Eso también explica por qué le importa a una empresa conocida por sus modelos baratos. Los pesos del modelo ya estaban abiertos; el ingrediente que faltaba para los de afuera era la forma eficiente de administrarlos. DeepInfer cierra parte de esa brecha.

Qué significa esto para ti: si solo chateas con IA en una aplicación, nada cambia. Si usted o su empresa alojan modelos abiertos, vale la pena marcar el DeepInfer, pero espere pruebas independientes antes de mover algo importante. Una precaución práctica: verifique las reglas de su organización sobre el uso de productos DeepSeek, ya que algunos gobiernos y empleadores las restringen, y ejecutar software de cualquier fuente merece una revisión de seguridad primero.

Fuentes

• The Decoder: DeepSeek abre el motor de inferencia detrás de su modelo más rápido
• The Neuron: Todo lo que pasó en IA hoy 21 de octubre