Quantification

IST-DASLab livre Qwen3.8-27B en GGUF de 8,4 à 11,8 Go. IQ3_S garde 99,8 % des performances de base avec une réduction de 4,6× et tient sur les cartes 16 Go. Tableau des fichiers, débits mesurés et règle de décision.

De 8 Go à 512 Go de VRAM : quels modèles IA locaux tournent sur votre matériel — avec les recettes de production et benchmarks de Mia's AI Lab.

DeepSeek-V4-Flash active 13 Md de paramètres par token mais en garde 284 Md en mémoire. Ses experts sont en FP4, et ce choix fixe presque toute la facture.