Le modèle de langage expliqué simplement

On parle à un assistant comme à un collègue : on lui pose une question, il répond avec aplomb, dans un français impeccable. On en déduit qu'il sait. Puis un jour, il cite une règle qui n'existe pas, ou ignore un fait de la semaine dernière, avec le même aplomb. Pour s'en servir sans s'y tromper, il faut savoir ce qu'il fait vraiment.

Un modèle de langage fait une seule chose : à partir d'un texte, il prédit la suite la plus probable, un mot ou un morceau de mot à la fois, puis recommence avec le texte allongé. OpenAI le décrit ainsi : le modèle prédit le mot suivant le plus probable, un mot à la fois.

Il a appris cette prédiction en lisant une très grande quantité de textes : contenus publics d'internet, données de partenaires, informations venues des utilisateurs et des personnes qui l'entraînent, chez OpenAI. Ce qu'il en garde n'est pas une copie des textes, mais des réglages, ses « poids », ajustés pendant l'entraînement.

Le pré-entraînement apprend à prédire le mot suivant sur un corpus immense, sans étiquette. Anthropic précise qu'un modèle ainsi entraîné n'est pas bon, de lui-même, pour répondre aux questions ou suivre des consignes.

Le post-entraînement lui apprend à répondre : des exemples de bonnes réponses, puis des personnes qui classent plusieurs réponses entre elles, et un apprentissage qui pousse le modèle vers les mieux classées.

La conversation : ce que vous écrivez, les documents joints et l'historique forment le contexte, la mémoire de travail du modèle, distincte de ce qu'il a appris. Ce qu'il a appris s'arrête à une date ; le contexte, lui, peut contenir l'actualité, si on la lui donne.

Le choix du mot suivant : plusieurs suites sont plausibles, et le modèle en tire une ; OpenAI y voit la raison pour laquelle la même question peut recevoir des réponses différentes. Même réglé au plus strict, il n'est pas entièrement prévisible, écrit Anthropic.

Pourquoi le faux peut être bien écrit : pendant son pré-entraînement, le modèle ne voit que des exemples de langue correcte, sans étiquette « vrai » ou « faux », écrit OpenAI. Il apprend à écrire comme on écrit ; vérifier n'est pas son mécanisme de base.

Deux cas réels. D'abord, la date : un modèle ne sait rien de ce qui s'est passé après la fin de son entraînement. Relevé le 8 octobre 2026 :

Une question sur un changement de loi de septembre 2026 reçoit donc, sans recherche sur le web ni document joint, une réponse fondée sur l'état d'avant, souvent sans le dire.

Ensuite, la variation : des chercheurs ont posé mille fois la même demande, « Tell me about Richard Feynman » (« Parle-moi de Richard Feynman »), au même modèle open weight, Qwen3-235B, réglé au plus strict. Ils ont obtenu 80 réponses différentes, identiques sur les 102 premiers tokens puis divergentes ; la plus fréquente revenait 78 fois. La cause tient à la façon dont les serveurs regroupent les demandes, pas au modèle.

1. Donner ce qu'il ne sait pas : le document, les chiffres, le contexte de l'entreprise.
2. Demander d'où vient la réponse, et vérifier les chiffres, les noms et les dates.
3. Pour l'actualité, activer la recherche sur le web, ou joindre la source.
4. Pour l'essentiel, garder la décision : le modèle propose, la personne tranche.
5. S'exercer : l'atelier pour réécrire cinq demandes.

Vrai ou faux ?

1. Un assistant a lu les documents de votre entreprise pendant son entraînement.
2. Si on lui pose deux fois la même question, il donne forcément la même réponse.
3. Une réponse bien rédigée et précise est le signe d'une réponse juste.
4. Un document joint à la conversation est lu par le modèle pour cette réponse.