DeepSeek V4.1 Flash : 890 octets de cache KV par token

Aperçu

Le 10 septembre 2026, DeepSeek a publié V4.1-Flash, le troisième modèle de la famille V4 — avec un objectif clair : surpasser l'architecture Flash précédente à la fois en termes de qualité et de coûts. Les chiffres le prouvent. Avec 552 milliards de paramètres pour le réseau de base (backbone) et 196 milliards pour les engrammes, le modèle n'active que 8 milliards de paramètres par token lors du prefill (pré-remplissage) et 16 milliards lors du décodage, pour une fenêtre de contexte d'un million de tokens et une sortie maximale de 384 000 tokens. Le cache KV global descend à 890 octets par token. Le rapport technique s'intitule à juste titre « Pushing the Limits of KV Cache Compression » (Repousser les limites de la compression du cache KV).

Les poids sont disponibles sous licence MIT sur Hugging Face, et l'utilisation est possible via vLLM, SGLang et Transformers. Les tarifs de l'API restent au niveau du modèle V4-Flash, avec un système de tarification heures pleines/heures creuses (Peak/Off-Peak).

Ce qu'est le modèle

V4.1-Flash est un modèle multimodal de type Mixture-of-Experts (MoE). Il traite nativement le texte et les images — un DeepSeek-ViT avec 2D-RoPE et un désentrelacement (unshuffle) de pixels 3×3 fournit des embeddings visuels, appris conjointement avec le texte dès la première étape du pré-entraînement. Par couche MoE, on trouve 1 expert partagé et 384 experts routés, dont 6 sont actifs par token. Le raisonnement (reasoning) est ajustable en continu (entier de 1 à 100) : un effort de réflexion plus important donne des résultats nettement meilleurs, mais consomme environ 2,5 fois plus de tokens en sortie.

L'architecture : trois leviers contre le cache

Le goulot d'étranglement des systèmes d'agents modernes est rarement la taille du modèle, mais le cache KV : chaque couche d'un Transformer classique conserve ses propres paires clé-valeur, et pour les contextes longs, cette réserve atteint l'ordre du gigaoctet. DeepSeek intervient à trois niveaux.

Premièrement : L'encodeur-décodeur causal (CED). Le backbone de 40 couches est divisé en 20 couches d'encodeur et 20 couches de décodeur. Le décodeur ne calcule pas lui-même son cache KV global, mais le projette à partir des états cachés finaux de l'encodeur. Les tokens du prompt s'arrêtent donc dans l'encodeur — la charge de calcul du prefill diminue de moitié environ, avec seulement 8 milliards de paramètres actifs. La source d'inspiration est YOCO.

Deuxièmement : L'attention clairsemée compressée 2 (CSA2). Chaque couche CSA2 se voit attribuer statiquement l'un des trois modes : Full (cache KV principal propre, propre indexeur, nouveaux indices Top-512), Reindex (cache KV principal externe, réévaluation propre) ou Reuse (cache KV principal et indices entièrement repris). Les 18 couches CSA2 de l'encodeur compressent avec un ratio de 2 par groupes de six, les 20 couches du décodeur avec un ratio de 1 par groupes de quatre. Un indexeur sparse hiérarchique limite le nombre de candidats à 16 384 positions — ainsi, l'effort d'indexation ne dépend plus de manière linéaire de la longueur du contexte. En termes de FLOPs par token décodé, le passage d'un contexte de 4K à 1M ne coûte qu'un quart de plus.

Troisièmement : FP4 et Bounded Replay (Rejeu limité). Le cache KV principal est quantifié en E2M1 (une échelle E4M3 pour 16 canaux), inspiré de NVFP4 — ce qui réduit encore la taille de moitié. Les états de la fenêtre glissante (fenêtre de 128 tokens) ne finissent plus sur le SSD, mais dans le pool de RAM de l'hôte avec un TTL (Time-To-Live) en minutes ; en cas de défaut de cache (cache miss), le « SWA Bounded Replay » ne recompile que les 128 derniers tokens. Résultat : l'empreinte persistante du cache est d'environ un huitième de celle de V4-Flash, pour un cache global de 890 octets par token — soit environ 1/4 de V4-Flash et 437 fois plus petit que pour la V1. Le rapport technique fournit la série : 389 120 → 48 068 → 3 514 → 890 octets.

Le reste de l'architecture repose sur des composants éprouvés : Single-Pass mHC avec coefficients de mélange d'entrée décalés et noyau Mega-mHC fusionné, le module Engram pour la recherche basée sur les tokens dans les couches 1 et 14, ainsi que DSpark pour le décodage spéculatif avec vérification basée sur la confiance.

Aperçu des performances

Dans la comparaison de base, V4.1-Flash fait jeu égal avec le grand V4-Pro — avec un tiers du total des paramètres et un quart des paramètres actifs : MMLU-Pro 74,1 (Pro : 73,5), BigCodeBench 60,6 (59,2), GSM8K 93,0. Multimodal natif : DocVQA 95,6, CVBench 77,9, RefCOCO 86,0, MMMU-Pro 56,5.

Au niveau de raisonnement maximum sur les benchmarks d'agents (Source : Fiche du modèle) :

À cela s'ajoutent : un classement Codeforces de 3471 (V4-Pro : 3348), et MathArena Apex 65,6, au même niveau que Kimi K3. Sur ProgramBench et lors de l'analyse d'images complexes, le rapport note qu'un écart mesurable subsiste par rapport aux plus grands systèmes fermés.

Le processus de post-entraînement est remarquablement sobre : pas de nouveaux algorithmes, seulement du SFT → RL → Distillation On-Policy avec plus de 40 modèles enseignants et des environnements d'agents synthétisés et mis à l'échelle via les frameworks Claude Code, Codex, OpenCode, Pi, mini-SWE et DeepSeek Harness. DeepSeek attribue ces gains à la mise à l'échelle des données et des tâches — et non à une mise à jour algorithmique.

Prix et disponibilité

L'API propose V4.1-Flash aux mêmes tarifs que V4-Flash, avec des créneaux heures pleines et heures creuses ; les heures creuses coûtent la moitié du prix. Par million de tokens : 0,22 $ en entrée (Cache-Miss), 0,007 $ en cas de Cache-Hit, 0,66 $ en sortie — tous ces tarifs s'appliquent aux heures creuses, les heures pleines coûtant exactement le double. Le Prefix-Caching automatique est activé par défaut. Les nouveaux tarifs sont en vigueur depuis 04h00 UTC le 10 septembre 2026. Poids : Licence MIT, Hugging Face. Des partenaires officiels tels que WorkBuddy (y compris CodeBuddy) et OpenCode prennent en charge le modèle dès son lancement.

Ce que cela signifie en pratique

Pour les documents longs et les graphes de connaissances : La réduction du cache par token (divisé par 437) constitue la véritable avancée. Ceux qui travaillent avec un contexte de 1M et des appels d'outils fréquents pourront multiplier les sessions par GPU plutôt que de devoir remplacer le matériel.

Pour les pipelines d'agents : L'activation asymétrique (8B pour le prefill / 16B pour le décodage) s'adapte parfaitement aux modèles fortement basés sur l'entrée — de vastes codes sources pour des sorties courtes et structurées. L'ajustement continu de l'effort de raisonnement permet de trouver le point d'équilibre coût/bénéfice à chaque étape : niveau bas pour la numérotation, élevé pour les vérifications croisées, moyen pour l'assemblage.

Pour le déploiement en production : Dans vLLM, on utilise le checkpoint mixte FP4/FP8 ; --tokenizer-mode deepseek_v4, --reasoning-parser deepseek_v4, et pour les modes de réflexion (Think), --max-model-len doit être d'au moins 393 216. Deux recommandations issues du forum Nvidia : un contexte de 32K reste le standard stable, 64K uniquement en cas de besoin réel — l'utilisation du KV et la concurrence réelle affichent une nette rupture à ce stade.

En guise de conclusion : Dans cette génération, les modèles open-weights ne sont plus seulement « bons pour le prix », ils se hissent au premier rang dans quatre des cinq benchmarks d'agents les plus exigeants — le tout sous licence MIT. Des lacunes subsistent concernant les questions très détaillées sur les images et les chaînes de raisonnement scientifique complexes ; sur ces points, V4-Pro, avec ses 49B de paramètres actifs, reste la valeur sûre.

L'essentiel à retenir

1. Le CED décharge le prompt dans l'encodeur : 8B de paramètres actifs pour le prefill, 16B pour le décodage, le KV du décodeur intervient sous forme de projection.
2. CSA2 + FP4 + Bounded Replay réduisent le cache KV global à 890 octets par token : 1/4 de V4-Flash, 1/8 de la partie persistante, 437× de moins que la V1.
3. Benchmarks : Terminal-Bench 2.1 90,6 · DeepSWE v1.1 74,2 · AutomationBench 54,8 · CyberGym 88,1 — avec des poids sous licence MIT.
4. Déploiement : vLLM/SGLang/Transformers, Prefix-Caching automatique, contexte de 32K comme standard par défaut.

FAQ

V4.1-Flash est-il un remplaçant total de V4-Pro ? Dans les benchmarks de codage par agents, oui, et il l'est largement en termes de prix et de vitesse. Pour les raisonnements scientifiques denses et l'analyse d'images complexes, la fiche du modèle indique toujours un avantage pour les grands modèles.

Pourquoi le cache KV est-il le goulot d'étranglement ? Parce que chaque couche d'un Transformer classique conserve ses propres paires clé-valeur — cette réserve croît avec la longueur du contexte et les étapes, consommant de la mémoire HBM, de l'espace SSD et de la bande passante.

Comment ajuster le raisonnement (reasoning) ? Via le paramètre reasoning_effort avec un entier de 1 à 100 ; le niveau maximum améliore sensiblement les résultats, mais double approximativement le nombre de tokens générés en sortie.

Quel est le gain concret sur le cache ? L'empreinte globale chute de 3 514 octets par token (V4-Flash) à 890 — un facteur 4, et un écart d'un facteur 437 par rapport à la V1.

Quelle pile de déploiement (Serve-Stack) utiliser ? vLLM ou SGLang avec le tokenizer et le parseur de raisonnement deepseek_v4 ; checkpoint mixte FP4/FP8 ; modes de réflexion avec max-model-len ≥ 393.216.