DE
Gespräch buchen

Lokale KI · Rezept · 4× DGX Spark

DeepSeek-V4.1-Flash 552B EXL3 4.75 bpw mit vLLM auf 4× DGX Spark

von vcruz305

30,2tok/sAlltag

1 Anfrage, Prosa-Prompt, mit DSpark (laut Rezept)

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysis40mit Denkenohne Denken 25
Anleitung im README Repo

Engine

Engine
vLLM
Quantisierung
EXL3 SAGE mixed-K 4.75bpw, Engram disk-backed FP8
Modellfamilie
DeepSeek-V4.1-Flash
Kontext
1.048.576
Parameter
552B Backbone + ~196B Engram, 384 Experten top-6 (lt. HF-Card)
Kreator
vcruz305
GitHub-Sterne
13
Repo-Stand
25. Sept. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
4 × NVIDIA DGX Spark (GB10)
Engine
vLLM
Kontext
1.048.576 Token

Hinweise

Was vor dem Nachbauen wichtig ist.

  • Mehrere Knoten
  • Eigener Kernel nötig
  • Von Dritten gemessen

Quellen

Verwandte Rezepte

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.

Zum KI-WorkshopZur Übersicht