Compactación de contexto
Resumir automáticamente el trabajo anterior de un agente de IA para que pueda seguir superando el límite de lo que puede tener en mente a la vez.
Cada modelo tiene una ventana de contexto, que es la cantidad de texto que puede tener en cuenta al mismo tiempo. Un agente que trabaja en un trabajo prolongado eventualmente lo completará, y el resultado ingenuo es que la sesión simplemente termina. La compactación es la solución: el sistema condensa todo hasta el momento en un resumen más corto, descarta los detalles sin procesar y continúa con el resumen en lugar del original.
Es por eso que las sesiones de los agentes pueden durar horas o días en lugar de minutos. También es donde reside gran parte del costo de los agentes, ya que usted paga por el contexto que lleva, y una buena técnica de compactación reduce la factura además de extender la sesión. El oficio es lo que se pierde en el resumen: comprime demasiado agresivamente y el agente olvida un detalle que necesitaba, razón por la cual ésta es un área de investigación activa en lugar de un problema resuelto.