ComprendreNiveau 112 minutes
Le contexte d'une demande
Le contexte : ce qu'on met sous les yeux du modèle, et pourquoi sa réponse en dépend.
Lire la pageL'essentiel
- Le contexte, c'est tout ce que le modèle lit au moment de répondre : les instructions, vos documents, l'historique de la conversation, la nouvelle question. Rien d'autre.
- À chaque message, toute la conversation est renvoyée au modèle : ce qui a été dit plus haut pèse sur la réponse suivante.
- La place est comptée, en tokens : de 32 000 à un million selon l'outil, l'offre et le modèle.
- Plus n'est pas mieux : passé une certaine longueur, les modèles retrouvent moins bien une information, surtout au milieu d'un long texte.
- Donnez le contexte utile, pas tout : les bons documents, la bonne question, et une conversation neuve quand le sujet change.