Compactage du contexte
Résumer automatiquement le travail antérieur d'un agent IA afin qu'il puisse continuer à dépasser la limite de ce qu'il peut garder en tête à la fois.
Chaque modèle possède une fenêtre contextuelle, qui correspond à la quantité de texte qu’il peut garder à l’esprit en même temps. Un agent travaillant sur un travail de longue durée finira par le remplir, et le résultat naïf est que la session se termine tout simplement. Le compactage est la solution : le système condense tout jusqu’à présent dans un résumé plus court, jette les détails bruts et continue avec le résumé à la place de l’original.
C’est pourquoi les sessions d’agent peuvent durer des heures ou des jours plutôt que des minutes. C’est également là que se situe une grande partie du coût des agents, puisque vous payez pour le contexte que vous transportez, et une bonne technique de compactage réduit la facture tout en prolongeant la session. Le commerce est ce qui se perd dans le résumé : compressez de manière trop agressive et l’agent oublie un détail dont il avait besoin, c’est pourquoi il s’agit d’un domaine de recherche actif plutôt que d’un problème résolu.