---
type: "Article"
title: "GLM-5.2 753.3B EXL3 3.5 bpw mit vLLM auf 4× DGX Spark"
description: "GLM-5.2 753.3B EXL3 3.5 bpw mit vLLM auf 4× DGX Spark: Rezept von fujitsupolycom mit Tempo, Bedingung und Quelle je Zahl, Gewichten und Lizenz."
resource: "https://www.contextstudios.ai/de/lokale-ki/fujitsupolycom--glm-5.2-exl3-3.5bpw-tp4-4x-dgx-spark"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-10-02T21:57:36.451Z"
status: "stable"
---

# GLM-5.2 753.3B EXL3 3.5 bpw mit vLLM auf 4× DGX Spark

GLM-5.2 753.3B EXL3 3.5 bpw mit vLLM auf 4× DGX Spark: 20,2 tok/s laut github.com (Datensatz-Stand: 29. Sept. 2026).

- Kreator: [fujitsupolycom](https://www.contextstudios.ai/de/lokale-ki/kreatoren/fujitsupolycom.md)
- Engine: vLLM
- Quantisierung: EXL3 3.5 bpw gemischt (TR3v4), dynamisches NVFP4 MLA + FP8 RoPE KV (nvfp4_ds_mla), target-only exact Q40
- Modellfamilie: GLM-5.2
- Hardware: dgx-spark x4
- Kontext: 1048576
- Artificial Analysis Intelligence Index: 33.7 ([source](https://artificialanalysis.ai/models/glm-5-2))

## Alle Zahlen

- 20,2 tok/s (Alltag; Alltag, 1 Anfrage, realistischer Prompt, mit MTP (fixed-4, greedy Draft) (laut Rezept)) — [source](https://github.com/FujitsuPolycom/sparkring/blob/main/performance/records/glm-3.5bpw/normalized-base-20260822.md)
- decode_tps: 20.15 (1 Anfrage) — [source](https://github.com/FujitsuPolycom/sparkring/blob/main/performance/records/glm-3.5bpw/normalized-base-20260822.md)
- decode_tps: 25.39 (1 Anfrage) — [source](https://github.com/FujitsuPolycom/sparkring/blob/main/performance/records/glm-3.5bpw/normalized-base-20260822.md)
- prefill_tps: 671 (1 Anfrage) — [source](https://github.com/FujitsuPolycom/sparkring/blob/main/performance/records/glm-3.5bpw/normalized-base-20260822.md)

## Gewichte

- [brandonmusic/GLM-5.2-EXL3-TR3v4-3.5bpw-MTP78](https://huggingface.co/brandonmusic/GLM-5.2-EXL3-TR3v4-3.5bpw-MTP78) (main, mit)

[https://github.com/FujitsuPolycom/sparkring](https://github.com/FujitsuPolycom/sparkring)

## Related

- [Lokale KI auf Ihrer Hardware.](https://www.contextstudios.ai/de/lokale-ki.md)