---
type: "Article"
title: "GLM-5.3-Flash NVFP4 (NVIDIA) mit vLLM (glm53-sm121-v13) auf 2× DGX Spark (Vision)"
description: "GLM-5.3-Flash NVFP4 (NVIDIA) mit vLLM (glm53-sm121-v13) auf 2× DGX Spark (Vision): Rezept von sfxnz mit Tempo, Bedingung und Quelle je Zahl, Gewichten und Lizenz."
resource: "https://www.contextstudios.ai/de/lokale-ki/sfxnz--glm53-flash-nvidia-nvfp4-dflash2-v13-2x-dgx-spark"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-11-10T03:34:56.069Z"
status: "stable"
---

# GLM-5.3-Flash NVFP4 (NVIDIA) mit vLLM (glm53-sm121-v13) auf 2× DGX Spark (Vision)

GLM-5.3-Flash NVFP4 (NVIDIA) mit vLLM (glm53-sm121-v13) auf 2× DGX Spark (Vision): 30 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).

- Kreator: [sfxnz](https://www.contextstudios.ai/de/lokale-ki/kreatoren/sfxnz.md)
- Engine: vLLM (Image glm53-sm121-v13, lokal gebaute Kette v8→v13 auf vllm/vllm-openai:glm53-flash-arm64-cu130), TP=2 über RoCE, DFlash2-7 mit Adaptive Verify (tau 0,3), CUDA Graphs
- Quantisierung: Offizielles NVIDIA-ModelOpt-0.47.0-NVFP4 W4A4 (Routed Experts + Dense-MLP, Marlin) @09b04e5e; INT8 W8A16 g128 auf shared/mla/kda_o/kda_in/lm_head; fp8_e4m3 KV (4,14-GiB-Pin); DFlash2-7-Drafter in NVFP4 W4A16
- Modellfamilie: GLM-5.3-Flash
- Hardware: dgx-spark x2
- Kontext: 327680
- Artificial Analysis Intelligence Index: 41.8 ([source](https://artificialanalysis.ai/models/glm-5-3-flash))

## Alle Zahlen

- 30 tok/s (Alltag; Alltag, 1 Anfrage, Prosa-Prompt, mit DFlash2 (laut Rezept)) — [source](https://github.com/sfxnz/GLM-5.3-Flash-NVFP4-vLLM-2x-DGX-Spark#measured-on-2-dgx-spark-lail-lab)
- decode_tps: 30.04 (1 Anfrage) — [source](https://github.com/sfxnz/GLM-5.3-Flash-NVFP4-vLLM-2x-DGX-Spark#measured-on-2-dgx-spark-lail-lab)
- decode_tps: 39.43 (2 parallele Anfragen) — [source](https://github.com/sfxnz/GLM-5.3-Flash-NVFP4-vLLM-2x-DGX-Spark#measured-on-2-dgx-spark-lail-lab)
- prefill_tps: 1192 (1 Anfrage) — [source](https://github.com/sfxnz/GLM-5.3-Flash-NVFP4-vLLM-2x-DGX-Spark#known-trade-off-long-context-prefill)
- ttft_ms: 260 (1 Anfrage) — [source](https://github.com/sfxnz/GLM-5.3-Flash-NVFP4-vLLM-2x-DGX-Spark#measured-on-2-dgx-spark-lail-lab)

## Gewichte

- [nvidia/GLM-5.3-Flash-NVFP4](https://huggingface.co/nvidia/GLM-5.3-Flash-NVFP4) (main, mit)
- [incoai/GLM-5.3-Flash-DFlash2](https://huggingface.co/incoai/GLM-5.3-Flash-DFlash2) (draft, cc-by-nc-nd-4.0)
- [zai-org/GLM-5.3-Flash](https://huggingface.co/zai-org/GLM-5.3-Flash) (base, mit)

[https://github.com/sfxnz/GLM-5.3-Flash-NVFP4-vLLM-2x-DGX-Spark](https://github.com/sfxnz/GLM-5.3-Flash-NVFP4-vLLM-2x-DGX-Spark)

## Related

- [Lokale KI auf Ihrer Hardware.](https://www.contextstudios.ai/de/lokale-ki.md)