Un modèle à mille milliards de paramètres chez vous : ce que Mistral Large 4 change pour un cluster 4× DGX Spark

tg-mistral-large-4-dgx-spark-cluster

Un modèle à mille milliards de paramètres chez vous : ce que Mistral Large 4 change pour un cluster 4× DGX Spark

La réponse courte : avec 1 050 milliards de paramètres et seulement 52 milliards actifs par jeton, Mistral Large 4 est le plus grand modèle ouvert jamais annoncé — et la question de savoir si cela tourne chez soi, nous y avons répondu sur notre cluster 4× DGX Spark avec le plus grand modèle de référence à notre disposition : 23,0 jetons par seconde en flux simple, 42,2 en agrégé à 8 flux, 0,553 € d'électricité par million de jetons de sortie. Les poids ouverts sont annoncés pour le 31 octobre 2026 sur Hugging Face ; la licence reste inconnue.

Le 6 octobre 2026, Mistral a lancé la préversion publique de Mistral Large 4 — en interne, le modèle se surnomme « le Chonk ». C'est le plus grand modèle de la maison : 1 050 milliards de paramètres en architecture mixture-of-experts à granularité fine, dont 52 milliards actifs par jeton (49 milliards d'activation pure plus 3 milliards dans les couches d'embedding et de sortie), ainsi qu'un encodeur vision de 1,6 milliard pour les images et les documents. La fenêtre de contexte atteint un million de jetons. Selon Mistral, l'entraînement a mobilisé 3 800 GPU NVIDIA Grace Blackwell dans ses propres centres de données européens.

L'annonce n'est cependant que la moitié de l'histoire. La vraie question, pour qui envisage sa propre matériel : que signifie une telle classe de modèles pour l'auto-hébergement — et combien coûte réellement un million de jetons générés en local ? Nous avons mesuré notre cluster 4× DGX Spark et confronté le calcul aux prix des API.

Les faits sur Mistral Large 4 en un coup d'œil

Une précision : la promesse de poids ouverts est une annonce, pas un fait établi. Sur Hugging Face, le modèle figure comme « upcoming release » avec une ETA au 31 octobre 2026, et Mistral n'avait pas nommé la licence à la clôture. Tous les faits sur le modèle proviennent de la page officielle et de la documentation API ; les benchmarks tiers sont rapportés comme tels.

Pourquoi la classe 1T change la donne de l'auto-hébergement

La génération flash de cet automne — GLM-5.3-Flash, DeepSeek V4.1 Flash, Qwen3.8-Flash-Next — tourne sur du matériel grand public parce qu'elle n'active que 6 à 18 milliards de paramètres par jeton. Mistral Large 4 en active 52, soit trois fois plus. Concrètement :

• La mémoire n'est pas le problème ; la vitesse, si. Un quant 4 bits des 1,05T de poids demande environ 525 Gio plus le cache KV — réalisable sur quatre Sparks avec 512 Go de mémoire unifiée plus la RAM système, pas sur une machine unique de 128 Go.
• La bande passante décide. À 52 Md de paramètres actifs en 4 bits, il faut lire environ 26 Go par jeton. Même en mettant en commun 4×273 Go/s, le régime diffère de l'activation à 6 Md de la classe flash — nos 23 tok/s mesurés contre 50 et plus pour Flash-Next le rendent tangible.
• Le batching est le levier. Le flux simple paraît modeste ; c'est l'agrégé sur flux parallèles qui compte pour un usage en équipe ou pour les agents.

Nous n'avons pas théorisé ces trois points : nous les avons mesurés sur le plus grand modèle déjà stable sur notre matériel, Qwen3.8-Flash-Next.

Notre mesure

Mesure propre, 20 octobre 2026, 10 h 30 CEST. Point d'accès : http://127.0.0.1:8212 (vLLM, compatible OpenAI), modèle qwen3.8-flash-next-nvfp4. Le point d'accès sert aussi nos pipelines de production ; ce sont des valeurs d'exploitation, non de laboratoire.

Deux enseignements. D'abord, la TTFT de 0,389 s montre que le préremplissage est fort sur le die GB10 — la réponse démarre vite même quand le flux avance à allure modérée. Ensuite, le saut de 23,0 à 42,2 tok/s en agrégé 8 flux confirme la vieille règle : cette classe de matériel vit du batching. Pour l'utilisateur seul qui regarde le curseur, le 23,0 compte ; pour un serveur d'agents qui traite huit tâches en parallèle, c'est le 42,2.

Le calcul des coûts : 0,553 € le million de jetons — et ce que cela signifie

Notre borne haute du coût énergétique : à 240 W nominaux présumés (spec de l'alimentation, non mesurés) et un tarif professionnel présumé de 0,35 €/kWh, le travail fourni coûte 0,553 € par million de jetons de sortie — calculé sur l'agrégé 8 flux de 42,2 tok/s, hors amortissement du matériel.

Face aux prix relevés par notre moniteur de coûts :

La lecture honnête : face aux API flash les moins chères, le calcul local perd sur le pur volume de jetons — face aux 2,09 $ de sortie de Mistral Large 4, il gagne nettement, d'un facteur ~3,8 (2,09 $ ≈ 1,92 € à 0,92 $/€ ; nos 0,553 €). Le calcul bascule encore dès que la confidentialité interdit le cloud, que la concurrence élevée est requise ou que des pics de dépense comme nos 268,59 $/jour pèsent. Le coût n'a jamais été l'argument principal du matériel propre : le contrôle, si.

Le facteur routage : pourquoi la couche gateway co-décide

Un second levier de coût se situe hors du modèle : le routage. Le marché des gateways est passé en 2026 de 4,5 à plus de 100 mille milliards de jetons routés par semaine, et les routes par défaut favorent manifestement les points d'accès les moins chers — avec des fournisseurs qui plafonnent discrètement contextes et sorties. Pour son propre calcul, cela signifie : le prix affiché au million et la qualité réellement délivrée au million sont deux choses, et l'écart naît dans le routeur, pas dans le modèle.

Pour l'auto-hébergement, cela déplace encore le calcul : servir en local élude la discipline de routage, les plafonds des fournisseurs et la volatilité des prix. C'est là que « plus cher au jeton » et « plus fiable à la tâche » disent la même chose.

Ce que nous ferions concrètement

• Attendre le 31 octobre. Seuls les poids ouverts, avec leur licence, diront si l'auto-hébergement est judicieux sur les plans juridique et technique. D'ici là, tout n'est qu'arithmétique de préversion.
• Viser le cluster 4× comme taille cible. Une machine unique de 128 Go ne suffit pas pour la classe 1T ; quatre Sparks mutualisant 512 Go plus l'offload en RAM restent le plancher réaliste pour des quants confortables.
• **Regarder l'activation, pas les zéros. 52 Md actifs expliquent la vitesse — habitué aux 6 Md, il faut recalibrer ses attentes : moitié de la vitesse de la classe flash, mais un net avantage de coût au jeton face à l'API 1T.
• Prévoir le batching. 42,2 tok/s en agrégé contre 23,0 en flux simple : la valeur de ce cluster apparaît en parallèle, pas au poste unique.

Questions fréquentes

Mistral Large 4 tourne-t-il sur un seul DGX Spark ? Non, pas de manière utile. Les 1 050 milliards de paramètres dépassent les 128 Go d'une machine seule dans toute quantification pratique ; même à 2 bits, il reste peu de place pour le cache KV et le système. Une Spark isolée ne tient les poids qu'au prix de compromis lourds et de streaming depuis le SSD, qui dégrade encore la vitesse. Le plancher réaliste pour la classe 1T est un ensemble à 4 nœuds mutualisant 512 Go plus la RAM système pour le reste.

Quelle est la vitesse de notre cluster face à la classe flash ? Notre référence qwen3.8-flash-next-nvfp4 du 20 octobre 2026 a donné 23,0 tok/s en flux simple et 42,2 tok/s en agrégé 8 flux, avec une TTFT de 0,389 s. Les modèles flash à 6 Md actifs atteignent des valeurs en flux simple nettement supérieures sur le même matériel ; la contrepartie est une enveloppe fonctionnelle plus étroite. Mistral Large 4, à 52 Md actifs, se situera sous cette référence en flux simple ; l'agrégé reste le levier.

Combien coûte un million de jetons de sortie en local ? Selon notre borne haute, 0,553 € — 240 W nominaux présumés multipliés par 0,35 €/kWh présumés, divisés par les 42,2 tok/s fournis. Les deux hypothèses sont documentées et modifiables dans notre configuration ; la consommation réelle sera inférieure si les machines ne tournent pas à plein régime. Hors amortissement et réseau. Face aux 2,09 $ de sortie de l'API, c'est un facteur presque quatre ; face aux API flash les moins chères, le cloud gagne.

L'auto-hébergement de la classe 1T vaut-il la peine ? Pas pour le seul argument du coût au jeton — mais pour trois cas concrets. Quand la confidentialité interdit le détour par le cloud et que les données doivent rester chez vous ; quand des fermes d'agents soutiennent une forte concurrence et que les pics de facturation API comptent, comme notre pic de 268,59 $ en une seule journée ; quand on veut l'indépendance vis-à-vis des décisions de routage et des plafonds. Qui discute de temps en temps économise avec une API flash.

Quand et sous quelle licence les poids arrivent-ils ? Sel la fiche Hugging Face, le 31 octobre 2026 ; à la clôture, Mistral n'avait pas nommé la licence exacte. D'ici là, le modèle n'est accessible que via l'API payante, à 0,68 $ en entrée et 2,09 $ en sortie promotionnels par million de jetons. Avant toute décision d'auto-hébergement, vérifiez licence et usage commercial ; nous mettrons le calcul à jour dès que les poids et leurs conditions seront fixés.

Que sait-on de la qualité ? De la page produit : Mistral positionne Large 4 comme l'état de l'art des modèles ouverts et cite ses propres comparaisons à l'aveugle avec évaluateurs professionnels ; nous ne les avons pas vérifiées et les rapportons comme telles. Pour la décision d'auto-hébergement, la qualité pèse moins que la licence, l'empreinte mémoire et le profil de charge. Notre conseil : après le 31 octobre, tester les benchmarks communautaires sur votre application réelle avant de commander du matériel.

Sources

• Mistral — Introducing Mistral Large 4 (6/10/2026) : https://mistral.ai/news/mistral-large-4
• Mistral Docs — Mistral Large 4, caractéristiques et tarifs API : https://docs.mistral.ai/models/mistral-large-4
• Hugging Face — mistralai/Mistral-Large-4-1T-A52B, upcoming release, ETA 31/10/2026 : https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B
• Mesure propre, cluster 4× DGX Spark (vLLM, qwen3.8-flash-next-nvfp4), 20/10/2026 10 h 30 CEST : http://127.0.0.1:8212
• Moniteur de coûts propre (cost-throttle), pic de dépense API 268,59 $/jour le 11/08/2026, moyenne 30 jours 0,43 $/jour
• daily-intel run #196 (6/10/2026) : Mistral Large 4, score 8.0 ; croissance OpenRouter 4,5→146 billions de jetons/semaine ; HN 13:15 UTC