DE
Gespräch buchen

Lokale KI · Rezept · 2× DGX Spark

DeepSeek-V4-Flash 305B NVFP4 mit vLLM auf 2× DGX Spark (MiaAI-Lab)

von MiaAI-Lab

56tok/sGemischt

1 Anfrage, gemischtes Prompt-Set, Prompt 256 Token, mit DSpark (laut Rezept)

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysiskein unabhängiger Wert
Anleitung im README Repo

Engine

Engine
vLLM
Quantisierung
FP8/FP4 (Original-Checkpoint) + NVFP4 KV (nvfp4_ds_mla)
Modellfamilie
DeepSeek-V4-Flash
Kontext
1.048.576
Parameter
~305B MoE (HF safetensors 304.6B)
Kreator
MiaAI-Lab
GitHub-Sterne
1.423
Repo-Stand
25. Sept. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
2 × NVIDIA DGX Spark (GB10)
Engine
vLLM
Kontext
1.048.576 Token

Hinweise

Was vor dem Nachbauen wichtig ist.

  • Eigener Kernel nötig
  • Zugang auf Anfrage

Quellen

Verwandte Rezepte

1× DGX Spark

DeepSeek-V4-Flash IQ2_XXS mit DwarfStar auf 1× DGX Spark

von antirez

19,5tok/sAlltag

1 Anfrage, Prosa-Prompt, Kontext 4096, ohne Spekulation Quelle 

Intelligenz34mit DenkenWert des Originalmodells. Stark komprimiert (~2,1 Bit), Intelligenz dürfte deutlich niedriger liegen.
  • ≤ 3 bit: Quantisierung kann Qualität kosten

IQ2_XXS gate/up + Q2_K down (routed, imatrix), Q8 Attn/Shared/OutDwarfStar (ds4) main@0aaea5a (2026-09-20)Gewichte Repo Stand 20. Sept. 2026

Details

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.

Zum KI-WorkshopZur Übersicht