DE
Gespräch buchen

Lokale KI · Rezept · 1× DGX Spark

GLM-5.3-Flash Q2_K mit llama.cpp auf 1× DGX Spark

von vcruz305

17,6tok/sAlltag

1 Anfrage, realistischer Prompt, Kontext 2k, mit DFlash2 (laut Rezept)

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysis42mit Denken

≤ 3 bit: Quantisierung kann Qualität kosten

Anleitung im README Repo

Engine

Engine
llama.cpp Fork 6f5ac9a + 4a06ec6
Quantisierung
GGUF Q2_K (2.91 BPW) + Draft Q4_K_M/BF16, q8 KV
Modellfamilie
GLM-5.3-Flash
Kontext
98.304
Kreator
vcruz305
GitHub-Sterne
7
Repo-Stand
13. Sept. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
1 × NVIDIA DGX Spark (GB10)
Gewichte
Engine
llama.cpp Fork 6f5ac9a + 4a06ec6
Kontext
98.304 Token

Hinweise

Was vor dem Nachbauen wichtig ist.

  • ≤ 3 bit: Quantisierung kann Qualität kostenBei 3 bit und weniger kann das Modell spürbar schlechter antworten als das Original. Die Intelligenz-Zahl gilt für das Original.
  • Nicht kommerziell (Entwurf)
  • Eigener Kernel nötig
  • Nicht kommerziell

Quellen

Verwandte Rezepte

1× DGX Spark

GLM-5.3-Flash EXL3 2.25 bpw mit vLLM auf 1× DGX Spark

von r0b0tlab

19,5tok/sAlltag

1 Anfrage, Prosa-Prompt, mit DFlash2 (laut Rezept) Quelle 

Intelligenz42mit DenkenWert des Originalmodells. Stark komprimiert (~2,3 Bit), Intelligenz dürfte deutlich niedriger liegen.
  • ≤ 3 bit: Quantisierung kann Qualität kosten
  • Experimentell
  • Eigener Kernel nötig
  • Nicht kommerziell

EXL3 2.25 bpw (Drafter EXL3 3.00 bpw)vLLM v0.30.0rc1 @ a00a3544b93eGewichte Repo Stand 25. Sept. 2026

Details

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.

Zum KI-WorkshopZur Übersicht