G
GEO Toolbox

Fonctionnement de la recherche IA

Fenêtre de contexte

Autres appellations : longueur de contexte, context window, taille de la fenêtre de contexte

La fenêtre de contexte désigne la quantité de texte, mesurée en tokens, qu'un modèle de langage peut contenir d'un seul coup : le prompt, les sources récupérées et la réponse qu'il génère lui-même, y compris la chaîne de pensée masquée qu'un modèle de raisonnement produit avant de répondre. Dans la recherche IA, les pages récupérées sont chargées dans cette fenêtre pour que le modèle puisse y ancrer sa réponse.

Mis à jour le

Quand un moteur IA récupère des sources, il remplit la fenêtre de contexte avec leur texte et génère une réponse à partir de ce qui tient. Un contenu clair, découpé en passages autonomes, trouve plus facilement sa place dans cette fenêtre et se cite plus fidèlement.

La fenêtre est finie : les moteurs privilégient donc les passages qui répondent directement à la question plutôt que les longs préambules. C'est une des raisons pour lesquelles une structure « réponse d'abord » obtient davantage de citations.

Comme elle se compte en tokens et non en mots, une page longue ou multilingue la remplit plus vite que son nombre de mots ne le laisse penser.