Lokale KI · Rezept · 2× DGX Spark

DeepSeek-V4.1-Flash-1017 EXL3 2,7 bpw (Mixed-K) mit vLLM auf 2× DGX Spark

DeepSeek-V4.1-Flash-1017 EXL3 2,7 bpw (Mixed-K) mit vLLM auf 2× DGX Spark: 40,5 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).

von sfxnz

40,5tok/sAlltag

1 Anfrage, Prosa-Prompt (L.A.I.L-Zelle), mit DSpark (laut Rezept)

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysiskein unabhängiger Wert

≤ 3 bit: Quantisierung kann Qualität kosten

Engine

Engine
vLLM (vllm/vllm-openai:deepseekv41-flash-0909 + vllm-exl3 + Engram-on-disk, custom image dsv41-flash-exl3-sm121:e16-rows), TP=2, DSpark with adaptive verify, DeepSeek-API gateway
Quantisierung
EXL3 MCG trellis 2.7 bpw routed experts (per-layer mixed K, HF revision 2.7bpw-mcg-hq), other tensors source dtypes, lm_head MXFP8, KV fp8
Modellfamilie
DeepSeek-V4.1-Flash-1017
Kontext
1.048.576
Parameter
~763B (HF-API safetensors total der Basis deepseek-ai/DeepSeek-V4.1-Flash-1017: 763.205.315.794); Pack 405,1 GB
Kreator
sfxnz
GitHub-Sterne
6
Repo-Stand
30. Okt. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Decode · 1 Anfrage

  • Alltag (Decode)40,5 tok/sL.A.I.L-Prosa-Zelle (tools/measure_lail_prose.py: 512 Tokens, Temperatur 0,2), Median aus 10, Boot FINAL 2026-10-20 mit perf2-Defaults (4 Sessions, 500.000-Token-Fenster), Akzeptanz 2,02; TTFT p50 0,25 s. Zweite Prosa-Zelle (greedy, 200 Tokens, über EOS hinaus erzwungen): 51,3 Quelle 
  • Spitze (Decode)104 tok/sBench_decode.py structured, 1 Anfrage, 9 Läufe, Akzeptanz 5,88; Aggregat bei 4 verschiedenen Prompts (structured): 201,1 Quelle 

Prefill je Kontext

  • 64K2.932 tok/sNeuer Text (novel), 64k-Prompt; 4k 1.830 / 16k 2.236 tok/s Quelle 

Zeit bis zum ersten Token

Kürzer ist besser.

  • Prompt nicht angegeben200 msKurzer Prompt, Prosa, 1 Anfrage, p50 (bench_decode.py) Quelle 

Was brauche ich

Hardware
2 × NVIDIA DGX Spark (GB10)
Engine
vLLM (vllm/vllm-openai:deepseekv41-flash-0909 + vllm-exl3 + Engram-on-disk, custom image dsv41-flash-exl3-sm121:e16-rows), TP=2, DSpark with adaptive verify, DeepSeek-API gateway
Kontext
1.048.576 Token

Hinweise

Was vor dem Nachbauen wichtig ist.

  • ≤ 3 bit: Quantisierung kann Qualität kostenBei 3 bit und weniger kann das Modell spürbar schlechter antworten als das Original. Die Intelligenz-Zahl gilt für das Original.
  • Eigener Kernel nötig
  • vision
  • tool-calling

Quellen

Verwandte Rezepte

4× DGX Spark
70,9tok/sAlltag

1 Anfrage, Prosa-Prompt (greedy, Thinking aus), mit DSpark (laut Rezept) Quelle 

Intelligenzkein unabhängiger Wert
  • ≤ 3 bit: Quantisierung kann Qualität kosten
  • Eigener Kernel nötig

EXL3 4.0 bpw (4,02 bpw, ~275 GB; eigener Quant)TensorFold native (Zig, TensorFold 1.0.12), BertholomusAI dsv41 family (bertholomus/TensorFold deepseek-v41-zig-tp4 @0a0b69a, recipe v0.3.5) + kernel kit (362 files), TP4 über RoCE, DSpark drafts, CUDA graphsGewichte Repo Stand 24. Okt. 2026

Details
4× DGX Spark
65,8tok/sAlltag

1 Anfrage, Prosa-Prompt (T = 0,7, Thinking an), mit DSpark (laut Rezept) Quelle 

Intelligenzkein unabhängiger Wert
  • Eigener Kernel nötig

FP8 / MXFP4 (official checkpoint as published, no re-quantization)TensorFold native (Zig 0.17.0), BertholomusAI dsv41 family (bertholomus/TensorFold deepseek-v41-zig-tp4 @5940208, kit 6033ea4) + recipe zig/patches, TP4 over a switchless ConnectX-7 ring (./start-switchless.sh), DSpark drafts, CUDA graphsGewichte Repo Stand 2. Nov. 2026

Details
2× DGX Spark
63,9tok/sAlltag

1 Anfrage, Prosa-Prompt (Temperatur 0,7, Thinking an), mit DSpark (laut Rezept) Quelle 

Intelligenzkein unabhängiger Wert
  • ≤ 3 bit: Quantisierung kann Qualität kosten
  • Eigener Kernel nötig

EXL3 EAQ v1 2.9 bpw (Mia-AiLab; vision tower and DSpark draft blocks included)TensorFold native (Zig 0.17.0), BertholomusAI dsv41 family (bertholomus/TensorFold deepseek-v41-zig @fbbc971) + recipe patches, TP=2 over ConnectX-7 (RoCE), DSpark draftsGewichte Repo Stand 2. Nov. 2026

Details
2× DGX Spark
60,5tok/sAlltag

1 Anfrage, Prosa-Prompt (greedy, Thinking aus), mit DSpark (laut Rezept) Quelle 

Intelligenzkein unabhängiger Wert
  • ≤ 3 bit: Quantisierung kann Qualität kosten
  • Eigener Kernel nötig

EXL3 2.5 bpw routed experts (2,52 bpw über die quantisierten Gewichte, ~185 GB; Attention/Shared Experts 4 bpw, DSpark-Drafter 4/6 bpw, Vision-Tower 16 bit)TensorFold native (Zig, TensorFold 1.0.12), BertholomusAI dsv41 family (bertholomus/TensorFold deepseek-v41-zig-tp2, recipe v0.7.3, served engine 6579b756dcd7) + kernel kit v0.7.0, TP=2 über RoCE, DSpark draftsGewichte Repo Stand 24. Okt. 2026

Details
2× DGX Spark
59,2tok/sAlltag

1 Anfrage, Prosa-Prompt (Temperatur 0, Thinking aus, Einzellauf), mit DSpark (laut Rezept) Quelle 

Intelligenzkein unabhängiger Wert
  • ≤ 3 bit: Quantisierung kann Qualität kosten
  • Eigener Kernel nötig

EXL3 2.9 bpw (LibertAI, Revision afc7aa0a)TensorFold (Elevatormusic/TensorFold @07aa02585f64: TensorFold 0.6.6 line + BertholomusAI DeepSeek-V4.1 family), Launcher Elevatormusic/DeepSeek-V4.1-Flash-1017-EXL3-TensorFold-2x-DGX-Spark, TP=2 über ConnectX-7, DSpark (MTP_DRAFTS=5), MEM_FLOOR_GIB=0Gewichte Repo Stand 19. Okt. 2026

Details

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.