Aller au contenu

ChoisirNiveau 3, Construire14 minutes

Un modèle hébergé chez soi

Un modèle open weight peut tourner sur une machine de l'entreprise : aucun texte ne sort, et personne ne peut vous le retirer. Ce qu'il faut de machine, quels modèles y tiennent et ce qu'ils valent face aux modèles payants, ce que cela coûte acheté ou loué, et la sécurité qu'il faut tenir soi-même. Avec ce que disent l'ANSSI et la CNIL.

Écrit le 9 octobre 2026 · Vérifié le 9 octobre 2026

Vous saurez

  • Savoir quels modèles tiennent sur quelle machine, et ce qu'ils valent
  • Comparer un poste, un serveur, un serveur loué et une API européenne
  • Tenir la sécurité d'un serveur de modèles
Sur cette page
  1. Rappel
  2. L'essentiel
  3. La qualité selon la taille
  4. Options
  5. Sélection par besoin
  6. Comparatif
  7. Méthode
  8. Pièges de lecture
  9. Vérification
  10. Lectures suivantes
Rappel de la page précédente

Répondez de tête, puis ouvrez. Les modèles open weight et les modèles fermés

1Un modèle open weight est-il open source ?

Pas forcément. L'Open Source Initiative exige aussi des informations détaillées sur les données d'entraînement et le code complet ; un modèle open weight peut ne publier que ses paramètres.

2Que permet un modèle open weight qu'un modèle fermé ne permet pas ?

Le faire tourner sur vos serveurs ou chez l'hébergeur de votre choix : vos textes restent où vous le décidez, et personne ne peut vous retirer le modèle.

L'essentiel
  1. Ce qui tient sur une machine de 32 Go reste loin des modèles payants : le meilleur, Qwen3.8 27B, obtient 34 à l'indice d'Artificial Analysis ; le petit Claude Haiku 5.5, 43 ; le meilleur modèle, 58.
  2. La mémoire décide : gpt-oss-20b demande 16 Go, gpt-oss-120b 80 Go ; « Mistral Small 4 » compte 119 milliards de paramètres et pèse 72 Go à 4 bits.
  3. Acheter coûte vite : un Mac Studio de 96 Go, 6 599 € TTC ; une carte RTX PRO 6000 de 96 Go, 19 370 € chez LDLC. Louer une carte en France commence vers 0,75 € hors taxes de l'heure.
  4. Un serveur de modèles n'a pas de mot de passe par défaut : LeakIX en a compté 12 269 ouverts sur l'Internet, dont 1 425 en France.
  5. La CNIL juge l'installation chez soi généralement plus appropriée pour des données personnelles ou sensibles ; l'ANSSI demande un hébergement de confiance et un mode dégradé.
1

La qualité selon la taille

La qualité des modèles open weight, selon la mémoire qu'ils demandent

à gauche : fichiers demoins de 32 Go 0204060 58 : Claude Opus 5.5, le meilleur modèle fermé46 : MiMo-V2.6-Pro, le meilleur open weight, sur serveur43 : Claude Haiku 5.5, petit modèle fermé38 : GPT-6 Luna, petit modèle fermé 5 Go10 Go20 Go50 Go100 Go250 Go taille du téléchargement chez Ollama, échelle qui multiplie Qwen3.8 27BGemma 4 12Bgpt-oss-20bMistral Medium 3.5gpt-oss-120bLlama 4 Maverick
Indice d'Artificial Analysis, version 4.3.2, dix évaluations, mesuré par un tiers ; tailles des fichiers de la bibliothèque d'Ollama, à la quantification par défaut, et celle d'une version communautaire pour Mistral Small 4. La mémoire nécessaire dépasse la taille du téléchargement. Relevé du 9 octobre 2026.
Voir en tableau
Valeurs du graphique : La qualité selon la taille
ModèleTéléchargementIndice
Qwen3.8 27B18 Go34
Qwen3.6 35B A3B23,5 Go18
Muse Glimmer 30B18 Go17
Gemma 4 26B A4B17,5 Go17
Gemma 4 31B19,5 Go15
Granite 4.2 30B18 Go15
Gemma 4 12B7,85 Go14
Qwen3.5 9B7,1 Go11
Granite 4.2 8B5,3 Go11
gpt-oss-20b14 Go10
Mistral Medium 3.580 Go14
gpt-oss-120b65 Go12
Mistral Small 472,1 Go11
Llama 4 Scout67 Go8
Llama 4 Maverick245 Go10

Les classements par préférence disent la même chose : sur LMArena, le premier modèle ouvert est 16e, et Gemma 4 31B, le mieux placé de ceux qui tiennent sur un poste, 75e ; sur Compar:IA, l'arène francophone de l'État, Gemma 4 31B est le premier open weight, dans la troisième classe.

2

Options

  • Un poste puissant : un Mac à grande mémoire unifiée, ou un PC avec une carte graphique ; Ollama ou LM Studio pour faire tourner le modèle. Pour une ou quelques personnes. La mise en place : Ollama et LM Studio.
  • Un serveur dans l'entreprise : une ou plusieurs cartes de 48 à 96 Go, et un serveur comme vLLM pour plusieurs personnes à la fois ; sous Linux, cartes NVIDIA récentes.
  • Un serveur loué en Europe : une machine à carte graphique chez Scaleway ou OVHcloud, à l'heure ; vous y installez le modèle, et vous le tenez.
  • Une API de modèles ouverts, en Europe : l'hébergeur fait tourner le modèle et facture au token ; rien à tenir, mais vos textes sortent chez lui. Le détail : les modèles sur un cloud européen.
Ce que la mémoire doit contenir, exemple de gpt-oss-20b sur une machine de 24 Go : les poids, 14 Go ; le cache de la conversation, jusqu'à 16 Go ; une marge pour une fenêtre longue, et le système. La fenêtre de contexte : Ollama la fixe selon la mémoire graphique, 4 000 tokens sous 24 Go, 32 000 jusqu'à 48 Go, 256 000 au-delà ; il conseille 64 000 pour les agents. Les demandes simultanées : une par modèle par défaut ; chacune de plus ajoute son cache. Le cache compressé : q8_0 divise sa mémoire par deux, q4_0 par quatre, avec une petite perte.
3

Sélection par besoin

Sélection par besoin
SituationChoixPourquoi
Des documents qui ne doivent pas sortir, une ou deux personnesUn poste puissantrien ne sort ; qualité à essayer sur vos cas
Des documents qui ne doivent pas sortir, toute une équipeUn serveur dans l'entrepriseplusieurs demandes à la fois ; quelqu'un pour le tenir
Un essai, sans acheter de matérielUn serveur loué, à l'heureon l'éteint après ; quelques euros
Un traitement en volume, données hébergées en FranceUne API de modèles ouvertsle moins cher par document ; un contrat de sous-traitance
Des données de santé, ou des exigences de l'ÉtatUn hébergeur certifié HDS, ou qualifié SecNumCloudles API d'IA de Scaleway et d'OVHcloud ne sont pas dans leurs listes HDS
La meilleure qualité possibleUn modèle fermé, sous contrataucun modèle ouvert sur poste n'approche les meilleurs

Certifications HDS et SecNumCloud : listes des hébergeurs lues le 9 octobre 2026.

4

Comparatif

Comparatif
Matériel ou servicePrixCe qu'il faut savoir
Mac Studio M5 Ultra, 96 Go6 599 € TTC ; 256 Go, 4 400 € de plusdes modèles de 65 Go, comme gpt-oss-120b ; 480 W au plus
Mac mini M5 Pro, 64 Go3 649 € TTCles fichiers de moins de 30 Go, comme Qwen3.8 27B, 18 Go
Carte RTX 5090, 32 Go2 099 € conseillés ; vue vers 4 900 € en magasin575 W ; une alimentation de 1 000 W
Carte RTX PRO 6000, 96 Go19 370 € TTC chez LDLC600 W ; mémoire corrigée
Carte L4 de 24 Go, louée0,75 € HT de l'heure chez OVHcloud ; 0,79 € chez Scalewayenviron 550 à 575 € par mois allumée en continu
Carte H100 de 80 Go, louée2,80 € HT de l'heure chez OVHcloud ; 2,87 € chez Scalewayenviron 2 050 à 2 100 € par mois allumée en continu
gpt-oss-120b par une API française0,08 € et 0,40 € HT le million de tokens chez OVHcloudà Gravelines ; quelques euros pour des milliers de documents

Prix lus le 9 octobre 2026 : Apple et LDLC toutes taxes comprises, Scaleway et OVHcloud hors taxes. Aucune mesure indépendante de vitesse sur ces machines n'a été trouvée.

5

Méthode

  1. Essayer avant d'acheter : la même tâche, sur dix cas réels, avec le modèle ouvert visé, par une API ou un serveur loué à l'heure, et avec un modèle fermé ; comparer.
  2. Choisir la machine d'après le modèle : la taille du fichier, plus le cache de la fenêtre voulue, plus une marge.
  3. Lire la licence du modèle : Apache 2.0 ou MIT pour la plupart ; celle de Mistral Medium 3.5 exclut les entreprises au-delà de 20 millions de dollars de revenu mensuel.
  4. Télécharger des formats sûrs, comme safetensors, et proscrire pickle, comme le demande l'ANSSI ; un modèle peut contenir du code malveillant, rappelle le CERT-FR.
  5. Garder le serveur sur la machine ou le réseau interne, journaliser, et prévoir de travailler sans lui.
  6. Mettre à jour : la plupart des serveurs exposés tournent avec des versions vulnérables, rarement mises à jour.
Le port d'un serveur de modèles. Par défaut, Ollama écoute sur 127.0.0.1, port 11434 : seule la machine elle-même peut l'appeler. Avec OLLAMA_HOST égal à 0.0.0.0, ou docker -p 11434:11434, il écoute sur 0.0.0.0 : tout le réseau l'appelle, et l'Internet si rien ne filtre ; aucun mot de passe. 12 269 serveurs Ollama exposés sans authentification, dont 1 425 en France, selon LeakIX en février 2026. Docker : publier un port l'ouvre au-dehors ; -p 127.0.0.1:11434:11434 le garde sur la machine.
6

Pièges de lecture

Pièges de lecture
On litCe qu'il faut savoir
« Chez soi, c'est sûr »Un serveur de modèles n'a pas de mot de passe par défaut ; des dizaines de failles ont été publiées depuis 2025, dont des critiques, comme CVE-2026-7482, qui laissait lire la mémoire d'Ollama sans authentification.
« Small, donc petit »Mistral Small 4 compte 119 milliards de paramètres et demande deux cartes dans la recette de Mistral.
« La taille du fichier, c'est la mémoire »La fenêtre de contexte et les demandes simultanées ajoutent leur cache.
« Open weight, donc libre pour tous »Chaque licence fixe ses conditions ; certaines excluent des entreprises.
« Le classement d'un modèle vaut pour le français »Les mesures sont surtout en anglais ; gpt-oss a été entraîné sur des textes surtout anglais. Seule Compar:IA mesure les préférences en français.
« Le modèle est gratuit, donc l'installation aussi »Le matériel, l'électricité, la tenue et les mises à jour se paient ; une API ouverte en Europe coûte souvent moins pour un usage modéré.
7

Vérification

1ComprendreQu'est-ce qui décide qu'un modèle tient sur une machine ?

Sa taille à la quantification choisie, plus le cache de la fenêtre de contexte et des demandes simultanées, plus le système : la mémoire graphique ou unifiée doit contenir le tout.

2ComprendrePourquoi un serveur de modèles installé chez soi n'est-il pas sûr de lui-même ?

Parce qu'il n'a pas de mot de passe par défaut : ouvert au réseau, ou publié par Docker, il répond à qui l'appelle ; et ses failles se corrigent par des mises à jour qu'il faut faire.

3AppliquerUne PME veut résumer des dossiers clients qui ne doivent pas sortir, pour trois personnes. Que proposez-vous ?

Essayer d'abord un modèle ouvert sur dix dossiers, par un serveur loué à l'heure ; puis un poste à grande mémoire avec Ollama, le serveur gardé sur la machine, si la qualité suffit.

8

Lectures suivantes

Limites et sources

La qualité vient d'un indice de tiers, en anglais surtout ; essayez sur vos propres cas, en français.

Les tailles sont celles des fichiers d'Ollama ; la mémoire nécessaire est plus grande. Aucune mesure indépendante de vitesse sur ces machines n'a été trouvée.

Les prix de matériel sont ceux des boutiques lues le 9 octobre 2026 ; ceux des cartes graphiques bougent beaucoup.

  1. Artificial Analysis ; LMArena ; Compar:IA ; ANSSI, recommandations pour un système d'IA générative ; CNIL, IA générative ; LeakIX, serveurs Ollama exposés.
  2. Le relevé : apprendre/recherches/2026-10-09-modele-chez-soi.json.

Écrit par Meridal, avec l'aide de l'IA ; chaque fait vérifié à sa source et relu avant publication. Texte et schémas sous licence CC BY 4.0 : reprenez-les en citant Meridal. Le code sous licence MIT.

Service correspondant

Choisir vos outils

275 € à 850 €

Voir le service

Un premier échange de 30 minutes

En visio et sans frais : vous décrivez votre situation, nous vous indiquons ce qui est réalisable, avec quels outils et pour quel ordre de prix. Vous pouvez aussi nous écrire ; chaque message reçoit une réponse écrite.