Lokale KI · Rezept · 2× DGX Spark

GLM-5.3-Flash NVFP4 mit vLLM auf 2× DGX Spark (256k Kontext, mit MTP)

von MiaAI-Lab

Für dieses Rezept ist kein Tempowert belegt. Die Seite ist deshalb nicht indexiert.

Intelligenz (Originalmodell) · Artificial Analysis42mit Denken

Engine

Engine
vLLM
Quantisierung
NVFP4 weights + fp8_e4m3 KV
Modellfamilie
GLM-5.3-Flash
Kontext
262.144
Kreator
MiaAI-Lab
GitHub-Sterne
90
Repo-Stand
24. Sept. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Zeit bis zum ersten Token

Kürzer ist besser.

  • Prompt nicht angegeben6.540 ms6.54s bei ×1 Quelle 

Was brauche ich

Hardware
2 × NVIDIA DGX Spark (GB10)
Engine
vLLM
Kontext
262.144 Token

Verwandte Rezepte

4× DGX Spark
68tok/sAlltag

1 Anfrage, Generierung bei 32K Kontext (Speed-Tabelle; nur als Pfad aus vier Sparks im 8er-Ring gemessen, nicht als Ring aus vier), Thinking immer an (gemessen vor dem Profil-Standard high, also mit Template-Standard max), mit MTP3 (laut Rezept) Quelle 

Intelligenz42mit Denken
  • Eigener Kernel nötig
  • Lizenz ungeklärt

NVFP4/MXFP8 CSF QAD (Local Inference Lab)vLLM (local-inference-lab Fork) via SparkRing (SIRCL-Collectives, switchless RDMA ueber ConnectX-7), Image Release 2026.10.2Gewichte Repo Stand 2. Nov. 2026

Details
2× DGX Spark
60,4tok/sAlltag

Prosa-Decode, 1 Request; Qualität (FP8-KV, 4-bit dense): GSM8K 98,8 % / HumanEval 95,7 % / HumanEval+ & MBPP+ 86,5 % Quelle 

Intelligenz42mit Denken
  • ≤ 3 bit: Quantisierung kann Qualität kosten
  • Eigener Kernel nötig
  • Nicht kommerziell
  • Lizenz ungeklärt

EXL3/TR3 4bpw routed experts + 4-bit dense, BF16 elsewhere, FP8 KVTensorFold v0.6.0 + Recipe v1.10 (README: 96 Patches; gepinntes Image v0.6.0-e66c657a433d mit 107 Patches: DFlash2+Copy-Drafts, 4-bit dense, FP8-KV, RoCE-One-Shot-All-Gather, Shared KV-Pool, optionaler Spill-Tier, Vision, Tool-Calling, Anthropic /v1/messages; PARALLEL=8 opt-in)Gewichte Repo Stand 25. Okt. 2026

Details

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.