DE
Gespräch buchen

Lokale KI · Rezept · 1× DGX Spark

DeepSeek-V4.1-Flash Q2_K mit llama.cpp auf 1× DGX Spark

von vcruz305

2,8tok/sSpitze

1 Anfrage, Bestwert der Quelle, Kontext 2k

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysis40mit Denkenohne Denken 25

≤ 3 bit: Quantisierung kann Qualität kosten

Anleitung im README Repo

Engine

Engine
llama.cpp Branch runtime/deepseek41
Quantisierung
GGUF Q2_K (246 GiB)
Modellfamilie
DeepSeek-V4.1-Flash
Kontext
2.048
Kreator
vcruz305
GitHub-Sterne
6
Repo-Stand
11. Sept. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
1 × NVIDIA DGX Spark (GB10)
Engine
llama.cpp Branch runtime/deepseek41
Kontext
2.048 Token

Hinweise

Was vor dem Nachbauen wichtig ist.

  • ≤ 3 bit: Quantisierung kann Qualität kostenBei 3 bit und weniger kann das Modell spürbar schlechter antworten als das Original. Die Intelligenz-Zahl gilt für das Original.
  • Experimentell
  • Nur Kurztest

Quellen

Verwandte Rezepte

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.

Zum KI-WorkshopZur Übersicht