DE
Gespräch buchen

Lokale KI · Rezept · 1× RTX PRO 6000

DeepSeek-V4-Flash 284B MXFP4 mit vLLM auf 1× RTX PRO 6000 (512k Kontext)

von jpezzulli

85,6tok/sSpitze

1 Anfrage, Bestwert der Quelle, Kontext 500000

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysis34mit DenkenWert des Originalmodells. Stark komprimiert (~2 Bit), Intelligenz dürfte deutlich niedriger liegen.

≤ 3 bit: Quantisierung kann Qualität kosten

Anleitung im README Repo

Engine

Engine
vLLM
Quantisierung
2-bit W2-Experten (MoET-Planes) + 6 GiB FP4-Korrektur-Tier (512×12 MiB), FP8-MLA-KV; Basis offizielles MXFP4-Checkpoint
Modellfamilie
DeepSeek-V4-Flash
Kontext
524.288
Parameter
284B MoE
Kreator
jpezzulli
GitHub-Sterne
17
Repo-Stand
19. Aug. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
1 × NVIDIA RTX PRO 6000 Blackwell
Engine
vLLM
Kontext
524.288 Token

Hinweise

Was vor dem Nachbauen wichtig ist.

  • ≤ 3 bit: Quantisierung kann Qualität kostenBei 3 bit und weniger kann das Modell spürbar schlechter antworten als das Original. Die Intelligenz-Zahl gilt für das Original.

Quellen

Verwandte Rezepte

1× DGX Spark

DeepSeek-V4-Flash IQ2_XXS mit DwarfStar auf 1× DGX Spark

von antirez

19,5tok/sAlltag

1 Anfrage, Prosa-Prompt, Kontext 4096, ohne Spekulation Quelle 

Intelligenz34mit DenkenWert des Originalmodells. Stark komprimiert (~2,1 Bit), Intelligenz dürfte deutlich niedriger liegen.
  • ≤ 3 bit: Quantisierung kann Qualität kosten

IQ2_XXS gate/up + Q2_K down (routed, imatrix), Q8 Attn/Shared/OutDwarfStar (ds4) main@0aaea5a (2026-09-20)Gewichte Repo Stand 20. Sept. 2026

Details

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.

Zum KI-WorkshopZur Übersicht