Fenêtre de contexte

Une fenêtre de contexte est la quantité de texte qu’un modèle de langage peut prendre en compte à un instant : tout votre prompt et tout ce qu’il a produit jusque-là. Elle se mesure en tokens, des morceaux de texte d’environ trois quarts de mot en moyenne.

Une grande fenêtre permet au modèle de travailler sur des documents entiers, de longues transcriptions ou des bases de code complètes en une seule requête. Mais taille ne signifie pas mémoire parfaite : il peut toujours manquer une information enfouie au milieu d’une très longue entrée. Une grande fenêtre élargit donc ce que vous pouvez tenter sans garantir ce à quoi vous pouvez vous fier.