Lokale KI · Rezept · 1× Mac

DeepSeek-V4.1-Flash Q4 mit DwarfStar auf 1× Mac

DeepSeek-V4.1-Flash Q4 mit DwarfStar auf 1× Mac: 18,7 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).

von antirez

18,7tok/sSpitze

1 Anfrage, Bestwert der Quelle, Kontext 4k

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysis40mit Denkenohne Denken 25

Engine

Engine
DwarfStar (ds4) main@0aaea5a (2026-09-20)
Quantisierung
Q4 (imatrix routed), 294 GiB Hauptgewichte
Modellfamilie
DeepSeek-V4.1-Flash
Kontext
—
Kreator
antirez
GitHub-Sterne
24.199
Repo-Stand
2. Nov. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Decode · 1 Anfrage

Prefill je Kontext

Was brauche ich

Hardware
1 × Mac / Apple Silicon
Engine
DwarfStar (ds4) main@0aaea5a (2026-09-20)

Verwandte Rezepte

8× DGX Spark
74tok/sAlltag

1 Anfrage, Generierung bei 32K Kontext (Speed-Tabelle, Ring aus acht), Thinking on, high, mit DSpark (laut Rezept); experimentelles Profil Quelle 

  • Eigener Kernel nötig
  • Experimentell

Stock-Checkpoint FP8/MXFP4 (DeepSeek)vLLM (local-inference-lab Fork) via SparkRing (SIRCL-Collectives, switchless RDMA ueber ConnectX-7), Image Release 2026.10.2Gewichte Repo Stand 2. Nov. 2026

Details

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.