Aller au contenu

ComprendreNiveau 2, Pratiquer10 minutes

Lecture d'un classement de modèles

Qui a mesuré, sur quel test, avec quel réglage, et ce qu'un écart de deux points veut dire : de quoi lire une annonce de modèle sans s'y laisser prendre, avec des cas relevés dans les classements publics.

Écrit le 8 octobre 2026 · Vérifié le 8 octobre 2026

Vous saurez

  • Distinguer une note mesurée par un tiers d'une note publiée par l'éditeur
  • Reconnaître un test saturé, trop petit, ou contaminé
  • Savoir ce que changent le réglage, le harnais et la version d'un test
  • Comparer deux modèles sans se fier à un seul chiffre

Dans le parcours

Choix des modèles

Étape 2 sur 9

Sur cette page
  1. Rappel
  2. L'essentiel
  3. Problème
  4. Principe
  5. Fonctionnement
  6. Exemple détaillé
  7. Risques
  8. Mise en place
  9. Exercice
  10. Vérification
  11. Lectures suivantes
Rappel de la page précédente

Répondez de tête, puis ouvrez. La carte des acteurs de l'IA

1L'éditeur d'un assistant et le fabricant du modèle sont-ils toujours la même entreprise ?

Non : Microsoft Copilot s'appuie sur des modèles d'OpenAI et d'Anthropic, et un même assistant peut proposer les modèles de plusieurs fabricants.

2Que veut dire « open weight » ?

Que les poids du modèle sont publiés : on peut le faire tourner sur ses propres machines, dans les limites de sa licence.

L'essentiel
  1. Une note ne veut rien dire sans quatre choses : qui l'a mesurée, sur quel test, avec quel réglage, dans quelle version du test.
  2. Une note publiée par l'éditeur se mesure avec ses propres réglages, souvent avec des outils et l'effort maximal : elle se compare mal à une mesure indépendante.
  3. Un test où tous les modèles dépassent 90 % ne les départage plus : un ou deux points d'écart sont du bruit.
  4. Le harnais, c'est-à-dire le programme qui fait travailler le modèle, peut faire varier une note de vingt points ou plus.
  5. Un classement dit un ordre sur ses tâches ; seule une mesure sur vos tâches dit lequel convient chez vous.
1

Problème

Chaque semaine, un éditeur annonce « le meilleur modèle du monde », chiffres à l'appui. Les classements publics donnent d'autres chiffres, et ne mettent pas tous les mêmes modèles en tête : au relevé du 6 octobre 2026, sur vingt-deux tests, neuf modèles différents arrivaient premiers (le marché des modèles). Pour choisir, il faut savoir lire ce que mesure un chiffre.

2

Principe

Quatre questions devant une note :

  • Qui a mesuré : un tiers, qui fait passer le même test à tous les modèles avec la même méthode, ou l'éditeur du modèle, qui choisit ses réglages.
  • Sur quel test : ce qu'il mesure, combien de questions il compte, et s'il départage encore les meilleurs.
  • Avec quel réglage : l'effort de raisonnement, les outils permis, et le harnais, le programme qui fait travailler le modèle sur les tâches d'agent.
  • Quelle version du test : les tests changent de version, et une note d'une version ne se compare pas à une note d'une autre.
Une note, 80,2 % pour Gemini 3.1 Pro sur Terminal-Bench 2.0, relevée le 6 octobre 2026, et ses quatre questions : qui a mesuré, un tiers ou l'éditeur ; sur quel test, GPQA Diamond ne compte que 198 questions ; avec quel réglage, avec un autre harnais le même modèle fait 59,4 % ; quelle version du test.
Les quatre questions, sur une note relevée.
3

Fonctionnement

Un test de questions donne une part de bonnes réponses. Plus il compte de questions, moins le hasard pèse : GPQA Diamond n'en a que 198, si bien qu'un ou deux points d'écart y sont du bruit.

Un test d'agent fait accomplir des tâches : corriger un vrai bug de logiciel, mener une suite de commandes dans un terminal. La note dépend alors autant du harnais que du modèle.

Une arène de préférence, comme LMArena, fait comparer deux réponses à l'aveugle par des internautes : elle mesure ce que les gens préfèrent, le ton, la forme, pas la justesse.

Un indice, comme celui d'Artificial Analysis, fait la moyenne de plusieurs tests ; il dépend des tests choisis et change de version.

Un test saturé ne départage plus : quand les meilleurs modèles dépassent tous 90 %, l'écart restant tient du bruit. Un test public peut aussi se retrouver dans les données d'entraînement : c'est la contamination, un risque fort pour les tests construits sur des dépôts de code publics.

4

Exemple détaillé

Exemple détaillé
Le cas, relevé le 6 octobre 2026Ce que la note seule laisse croireCe qu'il faut savoir
Gemini 3.1 Pro sur Terminal-Bench 2.0 : 80,2 % avec un harnais, 59,4 % avec un autreDeux modèles différentsLe même modèle ; seul le programme qui le fait travailler change
GPT-6 Astra sur ARC-AGI-3 : 62,7 % avec le harnais standard, 98,6 % avec un adaptateur fourni par l'éditeurUn test presque réussiDeux façons de faire passer le test, qui ne se mélangent pas
Claude Opus 5.5 sur ARC-AGI-2 : 0,24 $ par tâche en effort faible, 1,85 $ en effort maximalUn seul prix pour une noteLa note publiée est souvent celle de l'effort maximal, au coût le plus haut
Humanity's Last Exam, avec ou sans outilsUne note comparable d'une annonce à l'autreLes éditeurs publient surtout avec outils, quelques points plus haut ; les mesures indépendantes, sans
GPQA Diamond : les meilleurs autour de 95 %Deux points d'avance départagent198 questions, et un test presque saturé : l'écart est du bruit
LMArena : les vingt premiers dans une quarantaine de pointsUn premier et un vingtièmeDes intervalles qui se chevauchent : un rang n'y est pas un écart réel
5

Risques

Risques
Le piègeLa parade
Prendre une préférence pour une justesseUne arène dit ce qu'on aime lire ; un test à réponses dit ce qui est juste
Comparer deux versions d'un testNe comparer que des notes de la même version, chez la même source
Comparer deux réglagesMême effort, mêmes outils, même harnais ; sinon, le dire
Croire un écart d'un ou deux pointsRegarder la taille du test et sa saturation ; préférer les tests qui départagent encore
Se fier à un seul indiceDeux indices classent autrement les mêmes modèles ; lire plusieurs tests
6

Mise en place

  1. Devant une annonce : retrouver qui a mesuré, le test, le réglage et la version ; sans eux, la note ne dit rien.
  2. Pour un premier tri : les mesures indépendantes, sur les tests qui départagent encore ; le marché des modèles les rassemble, datées.
  3. Pour choisir : deux ou trois modèles essayés sur vos propres tâches, avec une grille notée : l'atelier pour comparer trois modèles.
7

Exercice

Un éditeur annonce : « Notre modèle atteint 96,4 % sur GPQA Diamond, deux points devant le meilleur concurrent ; mesuré avec outils et effort maximal. » Que retenir ?

Ouvrir la correction

Presque rienLa note est publiée par l'éditeur, avec ses réglages les plus favorables ; le test compte 198 questions et ne départage plus les meilleurs. Deux points d'écart y sont du bruit. Pour juger, il faut une mesure indépendante sur des tests qui départagent encore, puis un essai sur vos tâches.

Annonce fabriquée.

8

Vérification

1ComprendreUne note publiée par l'éditeur du modèle vaut-elle une note mesurée par un tiers ?

Pas sans le dire : l'éditeur mesure avec ses propres réglages, souvent avec des outils et l'effort de raisonnement maximal. La carte des notes marque chaque mesure d'éditeur d'un coin.

2AppliquerDeux modèles ont un point d'écart sur un test où tous dépassent 90 %. Lequel prendre ?

Le test ne les départage plus : l'écart est du bruit. Il faut regarder les tests qui départagent encore, et surtout essayer les deux sur vos tâches.

3ComprendreQue mesure une arène comme LMArena ?

La préférence de personnes qui comparent deux réponses à l'aveugle : le ton et la forme comptent, pas seulement la justesse.

9

Lectures suivantes

↑ Plus général

Rien avant : c'est un point de départ.

Vous êtes ici

Lecture d'un classement de modèles

→ EnsuiteLes modèles de décisionComprendre · Niveau 2 · 12 minutes

Choix des modèles · étape 3 sur 9

Tout le dossier « Choix d'un modèle »

Limites et sources

Les cas cités viennent des classements relevés le 6 octobre 2026 ; les notes changent à chaque version de modèle ou de test.

Cette page explique comment lire une note ; elle ne classe aucun modèle.

  1. Les classements, chaque note avec sa source et sa date : apprendre/donnees/classements.json, et la page du marché des modèles.

Écrit par Meridal, avec l'aide de l'IA ; chaque fait vérifié à sa source et relu avant publication. Texte et schémas sous licence CC BY 4.0 : reprenez-les en citant Meridal. Le code sous licence MIT.

Service correspondant

Choisir un outil ou un abonnement

275 € à 850 €

Voir le service

Un premier échange de 30 minutes

En visio et sans frais : vous décrivez votre situation, nous vous indiquons ce qui est réalisable, avec quels outils et pour quel ordre de prix. Vous pouvez aussi nous écrire ; chaque message reçoit une réponse écrite.