4× RTX PRO 6000
81,7tok/sAlltag
1 Anfrage, Prosa-Prompt, mit MTP Quelle
Intelligenz34mit Denkenohne Denken 22
- ≤ 3 bit: Quantisierung kann Qualität kosten
Lokale KI · Rezept · 4× DGX Spark
GLM-5.2 753B INT4/INT8 mit vLLM auf 4× DGX Spark
GLM-5.2 753B INT4/INT8 mit vLLM auf 4× DGX Spark: 32,5 tok/s laut github.com (Datensatz-Stand: 29. Sept. 2026).
von Weschera
Engine
- Engine
- vLLM
- Quantisierung
- QuantTrio Int4-Int8Mix (W4A16 MoE-Experts / W8A16 dense+MTP, compressed-tensors, data-free; Layer 0 + Attention-Indexer BF16); KV nvfp4_ds_mla (400 B/Token)
- Modellfamilie
- GLM-5.2
- Kontext
- 316.000
- Parameter
- 753B MoE, alle 256 Experts intakt (unpruned, README)
- Kreator
- Weschera
- GitHub-Sterne
- 1
- Repo-Stand
- 20. Aug. 2026
Messwerte
Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.
Decode · 1 Anfrage
Was brauche ich
- Hardware
- 4 × NVIDIA DGX Spark (GB10)
- Gewichte
- HauptgewichtQuantTrio/GLM-5.2-Int4-Int8Mix MIT
- Engine
- vLLM
- Kontext
- 316.000 Token
Hinweise
Was vor dem Nachbauen wichtig ist.
- Experimentell
- Eigener Kernel nötig
Quellen
Verwandte Rezepte
4× RTX PRO 6000
70,7tok/sAlltag
1 Anfrage, Prosa-Prompt, mit MTP Quelle
Intelligenz34mit Denkenohne Denken 22
- ≤ 3 bit: Quantisierung kann Qualität kosten
4× RTX PRO 6000
64tok/sAlltag
1 Anfrage, Prosa-Prompt, mit MTP (laut Rezept) Quelle
Intelligenz34mit Denkenohne Denken 22
- ≤ 3 bit: Quantisierung kann Qualität kosten
- Eigener Kernel nötig
4× DGX Spark
20,2tok/sAlltag
1 Anfrage, realistischer Prompt, mit MTP (fixed-4, greedy Draft) (laut Rezept) Quelle
Intelligenz34mit Denkenohne Denken 22
- Eigener Kernel nötig
4× DGX Spark
23,7tok/sGemischt
1 Anfrage, gemischtes Prompt-Set, mit MTP (laut Rezept) Quelle
Intelligenz34mit Denkenohne Denken 22
- Experimentell
- Eigener Kernel nötig
3× DGX Spark
13,6tok/sGemischt
1 Anfrage, gemischtes Prompt-Set, mit MTP (laut Rezept) Quelle
Intelligenzkein unabhängiger Wert
- Eigener Kernel nötig
Lokale KI im eigenen Unternehmen?
Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.