← Glosario Término
Decodificación especulativa
Un método de aceleración en el que un modelo pequeño predice texto y un modelo más grande lo verifica.
Los modelos de lenguaje suelen escribir tokens uno a la vez. En la decodificación especulativa, un modelo pequeño y rápido adivina varias fichas por delante; el grande revisa la pila de una vez. Quedan sugerencias correctas; los incorrectos son corregidos por el modelo grande.
Probar es más barato que producir. Esto hace que las respuestas sean más rápidas sin cambiar el resultado del modelo grande. El proceso contribuye a la caída de los precios de la IA en segundo plano: sólo es visible en una factura más pequeña y un cursor que parpadea durante menos tiempo.
Mencionado en
-
Lithos-Metal es un nuevo motor abierto para ejecutar IA rápidamente en el silicio Apple Macs
-
Granite 4.2 de IBM es gratuito, lo suficientemente pequeño como para ejecutarse localmente y diseñado para pensar primero
-
Qwen3.8-27B ya está disponible y funciona en una sola tarjeta gráfica de juegos
-
OpenAI rebaja un 80% GPT-5.6 Luna mientras se intensifica la guerra de precios de la IA