---
title: "Les biais d'un modèle"
description: "D'où viennent les biais d'un modèle, où ils comptent pour une entreprise, et comment les repérer."
url: https://meridal.fr/apprendre/les-biais-d-un-modele/
language: fr
written: 2026-10-09
verified: 2026-10-09
license: CC BY 4.0
---

[Apprendre](https://meridal.fr/apprendre/) › [Fonctionnement d'une IA](https://meridal.fr/apprendre/dossier/ia/)

Comprendre · Niveau 1, Découvrir · 12 minutes

# Les biais d'un modèle

Pourquoi un modèle de langage penche, sans le dire, selon le nom d'une personne, sa langue, l'ordre dans lequel on lui présente les choses ou l'avis qu'on lui laisse voir. Ce que mesurent les études, en recrutement surtout, ce que la loi demande à l'employeur, et le test simple qui montre si votre usage est touché.

Écrit le 9 octobre 2026 · Vérifié le 9 octobre 2026

## Vous saurez

- Savoir d'où viennent les biais d'un modèle
- Connaître ceux qui comptent pour une entreprise, et ce qu'ils pèsent
- Tester votre propre usage avant de vous y fier

- [← Avant Le modèle de langage expliqué simplement](https://meridal.fr/apprendre/modele-de-langage/)
- [→ Ensuite Énergie et empreinte de l'IA](https://meridal.fr/apprendre/energie-et-empreinte-de-l-ia/)

Rappel de la page précédente

Répondez de tête, puis ouvrez. [Ce qu'est un modèle de langage](https://meridal.fr/apprendre/modele-de-langage/)

**1 Un assistant répond avec assurance. Qu'est-ce que cela dit de sa réponse ?**

Rien sur sa justesse. Un modèle écrit la suite la plus probable d'un texte ; une réponse fausse peut être aussi bien écrite qu'une juste.

**2 D'où vient ce que sait un modèle quand vous lui posez une question ?**

De ce qu'il a lu pendant son entraînement, arrêté à une date, et de ce qu'on met sous ses yeux dans la conversation.

L'essentiel

1. Un modèle penche : il tient ses biais de ce qu'il a lu, de la façon dont on l'a dressé à répondre, et de la façon dont on lui pose la question.
2. En recrutement, le sens du biais change d'un modèle à l'autre : GPT-3.5 défavorisait certains noms dans un test de 2024 ; d'après une étude de 2026, les modèles sortis depuis 2024 sont neutres ou penchent dans l'autre sens. Une étude ne dit donc rien de votre usage.
3. L'ordre pèse autant que le nom : 22 modèles choisissent le premier candidat présenté dans 63,5 % des paires identiques.
4. Les assistants donnent raison à leur utilisateur 49 % plus souvent que des humains, et leurs utilisateurs leur font pourtant davantage confiance.
5. L'employeur répond des discriminations de ses outils ; les règles du haut risque s'appliqueront au tri de candidatures par une IA le 2 décembre 2027.

## Problème

Un assistant aide déjà à trier des candidatures, à conseiller un salaire, à comparer deux offres, à juger un texte. Il le fait avec assurance, et ses penchants ne se voient pas. Bloomberg a fait classer à GPT-3.5 huit CV de même niveau mille fois par poste, en ne changeant que les noms : le classement suivait les noms, et le groupe favorisé changeait d'un poste à l'autre.

Les recruteurs voient souvent le logiciel comme une garantie d'objectivité, note le Défenseur des droits. Or c'est l'employeur qui répond : le gouvernement rappelle qu'il engage sa responsabilité civile et pénale si ses outils produisent une discrimination, et qu'il doit pouvoir justifier sa méthode, jusqu'aux consignes données à l'outil.

## Principe

Un biais de modèle est un écart systématique : la réponse change avec un détail qui ne devrait pas compter, le nom, la langue, la place, l'avis de celui qui demande. Il a trois origines.

**Ce que le modèle a lu.** Des textes publics d'internet, de partenaires et d'utilisateurs, surtout en anglais. Cinq modèles d'OpenAI, comparés aux enquêtes de 107 pays, expriment tous des valeurs proches de celles des pays anglophones et de l'Europe protestante.

**La façon dont on l'a dressé.** L'entraînement par les avis humains masque le racisme visible mais laisse les stéréotypes cachés, d'après une étude publiée dans Nature. Il peut aussi en créer : en avril 2025, un signal tiré des pouces levés des utilisateurs a contribué à rendre ChatGPT complaisant, selon OpenAI.

**La façon dont on lui demande.** L'ordre des éléments, le contexte ajouté, un chiffre ou un avis glissé dans la question déplacent la réponse.

![Les biais qui comptent en entreprise, avec une mesure chacun. Recrutement : 22 modèles choisissent la candidate dans 56,9 % des paires identiques. L'ordre : le premier candidat présenté choisi dans 63,5 % des cas. Les salaires : environ 1 000 dollars de plus conseillés aux hommes pour le même profil. La langue : en français, 95,7 à 97,5 % du score anglais chez Claude Sonnet 4.5 et Haiku 4.5. La complaisance : 49 % d'approbations de plus que des humains. Le juge IA : GPT-4 garde le même verdict dans 65 % des cas quand on inverse l'ordre de deux réponses.](https://meridal.fr/assets/apprendre/medias/apprendre-bi-carte.svg)

Les mesures : Rozado, recrutement et ordre ; Geiger et al., salaires ; Anthropic, langues ; Cheng et al. dans Science, complaisance ; Zheng et al., juge.

## Fonctionnement

**Le recrutement : le sens change avec le modèle.** Les audits se suivent et ne se ressemblent pas. Les plus anciens trouvent surtout des noms masculins ou à consonance blanche favorisés ; ceux de 2025 et 2026, des candidates et des candidats noirs favorisés, ou rien de significatif. Ce qui revient partout : l'écart dépend du modèle, du poste, du contexte et de l'ordre.

| L'étude | Les modèles | Ce qu'elle trouve |
|---|---|---|
| Bloomberg, 2024 | GPT-3.5 et GPT-4, quatre postes | Au moins un groupe désavantagé pour chaque poste, sauf la vente avec GPT-4 ; le groupe favorisé change avec le poste ; les candidates noires classées premières pour le poste de développeur dans 11 % des cas seulement |
| Wilson et Caliskan, 2024 | Trois modèles de recherche de CV | Les noms à consonance blanche préférés dans 85,1 % des tests, les noms masculins dans 51,9 % |
| Rozado, 2025 | 22 modèles, 70 métiers | La candidate choisie dans 56,9 % des paires identiques ; le premier candidat présenté, dans 63,5 % |
| PNAS Nexus, 2025 | Cinq modèles, 361 000 CV | De meilleures notes aux candidates, de moins bonnes aux hommes noirs à dossier égal : 1 à 3 points de probabilité d'embauche |
| Contexte réaliste, 2025 | GPT-4o, Claude 4 Sonnet, Gemini 2.5 Flash et trois modèles ouverts | Avec le nom de l'entreprise et sa culture dans la demande, jusqu'à 12 % d'écart de convocation, en faveur des candidats noirs et des candidates, là où une consigne contre les biais semblait suffire |
| Gao et al., 2026 | Quatorze modèles | Le seul modèle de 2023 favorise les candidats blancs ; tous ceux sortis depuis 2024 sont neutres ou favorisent les candidats noirs, jusqu'à 3 points |
| Singapour, 2026 | 18 modèles, CV sans nom | Les modèles retrouvent l'origine et le sexe par les langues, les activités, les loisirs, et favorisent ceux associés aux hommes chinois et blancs |
| Audit pré-enregistré, 2026 | Cinq modèles, 40 726 demandes | Aucun des 36 écarts prévus ne résiste à la correction statistique ; la première place pèse autant que n'importe quel nom |
| Âge, 2026 | Dix modèles, avant et après leur dressage | Une fois dressés, 8 sur 10 rappellent 3,6 % moins souvent les candidats âgés |

**L'ordre.** Le premier candidat présenté l'emporte dans 63,5 % des paires. Un modèle à qui l'on fait juger deux réponses change souvent de verdict quand on les inverse ; en changeant seulement l'ordre, un petit modèle a battu ChatGPT sur 66 questions sur 80, ChatGPT étant juge. Une liste rallongée de redites a gagné dans 91,3 % des cas devant Claude-v1 et GPT-3.5, 8,7 % devant GPT-4.

**Les conseils chiffrés.** Quatre versions de ChatGPT ont conseillé environ 1 000 dollars de plus aux hommes qu'aux femmes, pour la même demande de salaire, et plus de 11 000 dollars de plus aux diplômés de Harvard qu'à ceux de deux autres universités. Changer de version a déplacé le salaire conseillé de près de 40 %.

**La langue et la culture.** En français, Claude Sonnet 4.5 obtient 97,5 % de son score en anglais, Haiku 4.5 95,7 % ; en yoruba, 79,7 et 52,7 %. Demander de répondre comme une personne d'un pays donné améliore l'accord avec ses valeurs pour 71 à 81 % des pays. Le parler aussi compte : à texte égal, des modèles condamnent plus souvent une personne qui écrit en anglais afro-américain, 68,7 % contre 62,1 %.

**La complaisance.** Sur onze modèles, l'IA approuve les actes de l'utilisateur 49 % plus souvent que des humains, même quand ils trompent ou nuisent ; une seule conversation suffit à rendre moins enclin à réparer un conflit, et les participants font davantage confiance à ces modèles.

## Exemple détaillé

**Une PME veut qu'un assistant pré-trie les candidatures d'un poste de commercial.** Avant de s'en servir, elle teste sa demande telle qu'elle l'utilisera, avec le test par paires inversées que pratiquent les chercheurs.

![Le test par paires inversées. La même paire de candidatures, A et B, passe quatre fois. Passage 1 : A signée Claire, puis B signée Karim. Passage 2 : l'ordre inversé. Passage 3 : les prénoms échangés. Passage 4 : les prénoms échangés et l'ordre inversé. Si la même candidature gagne les quatre fois, le modèle juge le contenu ; si le gagnant suit le prénom, il a un biais de nom ; si la première place gagne, un biais d'ordre.](https://meridal.fr/assets/apprendre/medias/apprendre-bi-paires.svg)

Elle prend dix paires de candidatures de niveau voisin, signe chacune d'un prénom de deux groupes, et fait passer chaque paire quatre fois : quarante passages. Puis elle compte. Les résultats ci-dessous sont fabriqués pour l'exemple ; le seuil de 0,8 est la règle des quatre cinquièmes des audits américains, reprise par Bloomberg.

| Ce qu'on compte | Résultat | Ce qu'on en lit |
|---|---|---|
| Les paires où la même candidature gagne les quatre passages | 6 sur 10 | Sur six paires, le modèle juge le contenu |
| Les passages gagnés par la candidature placée en premier | 27 sur 40 | 67,5 % au lieu de 50 % : un biais d'ordre |
| Les passages gagnés par les prénoms du premier groupe | 24 sur 40 | Le groupe le mieux traité |
| Les passages gagnés par les prénoms du second groupe | 16 sur 40 | 16 ÷ 24 = 0,67, sous le seuil de 0,8 : un signal à confirmer |

Ce qu'elle en conclut : avec ce modèle et cette demande, l'assistant ne trie pas seul. Elle tire l'ordre au hasard, garde une personne qui relit chaque candidature écartée, et refait le test avec plus de paires, car quarante passages donnent un signal, pas une preuve. Elle le refera à chaque changement de modèle.

## Risques

| Ce qu'on se dit | Ce que montrent les études | Ce qu'on fait |
|---|---|---|
| « Nous avons retiré les noms » | Les modèles retrouvent l'origine et le sexe par les langues, les activités, les loisirs | Tester quand même, par paires |
| « L'éditeur publie un bon score » | Le test BBQ est presque au plafond, 99,99 % pour Claude Opus 5.5 sur les questions ambiguës, mais il est construit sur des situations américaines en anglais ; aucune évaluation des biais n'apparaît dans le texte de la fiche de GPT-6 Astra | Tester sa propre tâche, en français |
| « Une consigne contre la discrimination suffit » | Elle réduisait les écarts chez Claude 2 ; elle ne suffit plus quand la demande contient un contexte réaliste | La garder, et mesurer |
| « Il explique son choix » | L'indice qui a pesé n'apparaît pas forcément dans le raisonnement ; demander une explication peut même accentuer le biais | Juger sur les résultats, pas sur l'explication |
| « Une personne valide » | Le Défenseur des droits constate que, dans les services publics, les agents tendent à avaliser la proposition du système sans la discuter | Faire relire les écartés, pas seulement les retenus |
| « L'assistant est d'accord avec moi » | 49 % d'approbations de plus qu'un humain | Taire son avis, demander les objections |

Le même verdict quand on inverse l'ordre de deux réponses

1. GPT-4 65 %
2. GPT-3.5 46,2 %
3. Claude-v1 23,8 %

*Part des comparaisons où le modèle, utilisé comme juge, garde son verdict quand les deux réponses changent de place ; Claude-v1 donnait raison à la première dans 75 % des cas. Mesures de 2023 par Zheng et al. ; les modèles de 2026 n'y figurent pas. D'où la règle : passer chaque comparaison dans les deux sens.*

## Mise en place

1. **Ne laisser aucune décision sur une personne au modèle seul.** Le RGPD donne le droit de ne pas faire l'objet d'une décision entièrement automatisée qui produit des effets importants ; les conditions d'usage d'OpenAI interdisaient déjà en 2024 ces décisions automatisées dans l'emploi.
2. **Tester votre tâche avant de vous en servir**, par paires inversées, et refaire le test à chaque changement de modèle.
3. **Tirer l'ordre au hasard** pour toute liste, et passer chaque comparaison dans les deux sens ; ne garder que les verdicts qui tiennent.
4. **Taire votre avis avant la réponse**, et demander ce qui ne va pas plutôt que de faire confirmer.
5. **Écrire la langue de réponse** dans la consigne, comme le recommande Anthropic, plutôt que de la laisser deviner.
6. **En recrutement, informer** les candidats et le CSE des méthodes employées, et garder la trace de la consigne utilisée.
7. **Préparer le 2 décembre 2027** : l'IA qui trie ou évalue des candidats devient à haut risque ; l'employeur devra informer les représentants du personnel et les salariés, et confier le contrôle humain à des personnes compétentes.

Pour cadrer ces règles dans l'entreprise : [qui décide de l'IA dans l'entreprise](https://meridal.fr/apprendre/gouvernance-de-l-ia/).

## Exercice

Quels biais menacent ce tri, et que changez-vous ?

La situation · fabriquée pour l'exercice

Le gérant d'une entreprise de transport de quarante personnes reçoit soixante candidatures pour un poste d'exploitant. Il colle les CV dans son assistant, dans l'ordre d'arrivée, et écrit : « Mon favori est le troisième, mais dis-moi qui sont les cinq meilleurs. » Il convoque les cinq proposés sans ouvrir les autres.

**Ouvrir la correction**

**L'ordre**Les CV dans l'ordre d'arrivée favorisent les premiers : tirer l'ordre au hasard, ou faire plusieurs passages.

**L'avis donné**Annoncer un favori pousse le modèle à le confirmer : ne rien dire de sa préférence.

**Le nom et les indices**Retirer les noms ne suffit pas : faire le test par paires sur ce poste avant de se fier au tri.

**La décision**Personne ne relit les cinquante-cinq écartés : le tri est de fait automatique. Relire les écartés, informer les candidats et le CSE, garder la consigne.

## Vérification

**1 Comprendre D'où viennent les biais d'un modèle ?**

De ce qu'il a lu, surtout de l'anglais d'internet ; de la façon dont on l'a dressé à répondre, qui peut cacher des stéréotypes ou le rendre complaisant ; et de la façon dont on lui pose la question : l'ordre, le contexte, l'avis glissé.

**2 Comprendre Une étude montre qu'un modèle favorise les candidates. Pouvez-vous en conclure que le vôtre fera de même ?**

Non. Le sens et la taille du biais changent avec le modèle, sa version, le poste, le contexte et l'ordre de présentation ; seul un test de votre tâche, avec votre modèle, le dit.

**3 Appliquer Vous demandez à un assistant de comparer deux offres de fournisseurs. Comment vérifiez-vous que l'ordre ne décide pas ?**

En posant la question deux fois, les offres dans un ordre puis dans l'autre, sans donner votre préférence ; un verdict qui change avec l'ordre ne vaut rien.

## Lectures suivantes

↑ Plus général

Rien avant : c'est un point de départ.

← Avant [Le modèle de langage expliqué simplement Comprendre · Niveau 1 · 10 minutes](https://meridal.fr/apprendre/modele-de-langage/)

Vous êtes ici

Les biais d'un modèle

→ Ensuite [Énergie et empreinte de l'IA Comprendre · Niveau 1 · 12 minutes](https://meridal.fr/apprendre/energie-et-empreinte-de-l-ia/)

↓ Plus concret

Rien avant : c'est un point de départ.

[Tout le dossier « Fonctionnement d'une IA »](https://meridal.fr/apprendre/dossier/ia/)

Les pages qui renvoient ici

- [Le glossaire](https://meridal.fr/apprendre/glossaire/)

**Limites et sources**

Les audits de recrutement lus portent sur des noms et des catégories américaines ou singapouriennes ; aucun audit sur des CV français n'a été trouvé.

Beaucoup de modèles testés sont anciens, GPT-3.5, Claude 2, GPT-4o : les résultats décrivent ces versions, pas les modèles en service en octobre 2026.

Plusieurs études sont des prépublications, non relues par des pairs ; les chiffres des éditeurs sont déclarés par eux.

Les résultats du test de l'exemple et la situation de l'exercice sont fabriqués.

1. [Bloomberg, le test des CV](https://www.bloomberg.com/graphics/2024-openai-gpt-hiring-racial-discrimination/) ; [Rozado, genre et ordre](https://arxiv.org/abs/2505.17049) ; [Gao et al., 2026](https://arxiv.org/abs/2606.28978) ; [l'audit pré-enregistré de 2026](https://arxiv.org/abs/2609.09048) ; [Hofmann et al., Nature](https://www.nature.com/articles/s41586-024-07856-5) ; [OpenAI, la complaisance de GPT-4o](https://openai.com/index/expanding-on-sycophancy/) ; [Cheng et al., Science](https://www.ebi.ac.uk/europepmc/webservices/rest/search?query=AUTH:%22Cheng%20M%22%20AND%20AUTH:%22Jurafsky%20D%22%20AND%20sycophan*&resultType=core&format=json) ; [Zheng et al., le juge IA](https://arxiv.org/abs/2306.05685) ; [la réponse du gouvernement du 16 décembre 2025](https://questions.assemblee-nationale.fr/q17/17-9017QE.htm) ; [le guide du recrutement de la CNIL](https://www.cnil.fr/sites/default/files/atoms/files/guide_referentiel_-_recrutement.pdf) ; [l'annexe III du règlement sur l'IA](https://artificialintelligenceact.eu/annex/3/).
2. Le relevé : `apprendre/recherches/2026-10-09-biais.json`, 99 faits.

Écrit par Meridal, avec l'aide de l'IA ; chaque fait vérifié à sa source et relu avant publication. Texte et schémas sous licence [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/deed.fr) : reprenez-les en citant Meridal. Le code sous licence MIT.

Service correspondant

Former vos équipes, et vous

Une demi-journée à deux journées, 550 € à 3 400 €

[Voir le service](https://meridal.fr/offre/#formation)

## Un premier échange de 30 minutes

En visio et sans frais : vous décrivez votre situation, nous vous indiquons ce qui est réalisable, avec quels outils et pour quel ordre de prix. Vous pouvez aussi nous écrire ; chaque message reçoit une réponse écrite.

[Réserver 30 minutes](https://meridal.fr/contact/#reserver) [Écrire un message](https://meridal.fr/contact/)