DE
Gespräch buchen

Lokale KI · Rezept · 1× DGX Spark

DeepSeek-V4.1-Flash EXL3 1.59 bpw mit ExLlamaV3 auf 1× DGX Spark

von vcruz305

17,5tok/sGemischt

1 Anfrage, gemischtes Prompt-Set, mit DSpark

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysis40mit Denkenohne Denken 25Wert des Originalmodells. Stark komprimiert (~1,6 Bit), Intelligenz dürfte deutlich niedriger liegen.

≤ 3 bit: Quantisierung kann Qualität kosten

Anleitung im README Repo

Engine

Engine
ExLlamaV3 Fork + EXL3-Attention/MTP-Overlay
Quantisierung
EXL3 SAGE 1.59bpw
Modellfamilie
DeepSeek-V4.1-Flash
Kontext
—
Kreator
vcruz305
GitHub-Sterne
13
Repo-Stand
25. Sept. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
1 × NVIDIA DGX Spark (GB10)
Engine
ExLlamaV3 Fork + EXL3-Attention/MTP-Overlay

Hinweise

Was vor dem Nachbauen wichtig ist.

  • ≤ 3 bit: Quantisierung kann Qualität kostenBei 3 bit und weniger kann das Modell spürbar schlechter antworten als das Original. Die Intelligenz-Zahl gilt für das Original.
  • Sehr starke Quantisierung
  • Eigener Kernel nötig

Quellen

Verwandte Rezepte

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.

Zum KI-WorkshopZur Übersicht