DE
Gespräch buchen

Lokale KI · Rezept · 1× DGX Spark

DeepSeek-V4.1-Flash auf 1× DGX Spark

von 0xBakeer

17,1tok/sAlltag

1 Anfrage, Story-Prompt, mit DSpark (laut Rezept)

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysis40mit Denkenohne Denken 25

≤ 3 bit: Quantisierung kann Qualität kosten

Anleitung im README Repo

Engine

Engine
eigene PyTorch-Engine + Triton-Kernel v0.5.0-wip
Quantisierung
FP4-Experts (Checkpoint) bzw. CB3 3-bit Codebook für resident set
Modellfamilie
DeepSeek-V4.1-Flash
Kontext
262.144
Parameter
510 GB on disk, 384 Experts/Layer, 6 aktiv
Kreator
0xBakeer
GitHub-Sterne
120
Repo-Stand
24. Sept. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
1 × NVIDIA DGX Spark (GB10)
Engine
eigene PyTorch-Engine + Triton-Kernel v0.5.0-wip
Kontext
262.144 Token

Hinweise

Was vor dem Nachbauen wichtig ist.

  • ≤ 3 bit: Quantisierung kann Qualität kostenBei 3 bit und weniger kann das Modell spürbar schlechter antworten als das Original. Die Intelligenz-Zahl gilt für das Original.
  • Experimentell
  • In Arbeit

Quellen

Verwandte Rezepte

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.

Zum KI-WorkshopZur Übersicht