---
type: "Article"
title: "GLM-5.3-Flash EXL3 mit TensorFold auf 2× DGX Spark (1M Kontext, 4 Streams)"
description: "GLM-5.3-Flash EXL3 mit TensorFold auf 2× DGX Spark (1M Kontext, 4 Streams): Rezept von MiaAI-Lab mit Tempo, Bedingung und Quelle je Zahl, Gewichten und Lizenz."
resource: "https://www.contextstudios.ai/de/lokale-ki/miaai-lab--glm-5.3-flash-exl3-tensorfold-2x-dgx-sparks"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-10-02T19:48:49.953Z"
status: "stable"
---

# GLM-5.3-Flash EXL3 mit TensorFold auf 2× DGX Spark (1M Kontext, 4 Streams)

GLM-5.3-Flash EXL3 mit TensorFold auf 2× DGX Spark (1M Kontext, 4 Streams): 97,6 tok/s laut github.com (Datensatz-Stand: 29. Sept. 2026).

- Kreator: [MiaAI-Lab](https://www.contextstudios.ai/de/lokale-ki/kreatoren/miaai-lab.md)
- Engine: TensorFold v0.5.0 (52 patches: DFlash2+copy drafts, 4-bit dense, FP8 KV, RoCE one-shot all-gather, shared KV pool, vision, tool calling)
- Quantisierung: EXL3/TR3 4bpw routed experts + 4-bit dense, BF16 elsewhere, FP8 KV
- Modellfamilie: GLM-5.3-Flash
- Hardware: dgx-spark x2
- Kontext: 1048576
- Artificial Analysis Intelligence Index: 41.8 ([source](https://artificialanalysis.ai/models/glm-5-3-flash))

## Alle Zahlen

- 97,6 tok/s (Alltag; HumanEval 97,6 % / GSM8K 98,0 % mit FP8-KV und 4-bit dense) — [source](https://github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks-TensorFold#quality)
- decode_tps: 60.4 (1 Anfrage) — [source](https://github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks-TensorFold#performance)
- decode_tps: 227.9 (4 parallele Anfragen) — [source](https://github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks-TensorFold#performance)
- prefill_tps: 1978.9 (1 Anfrage) — [source](https://github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks-TensorFold#performance)
- ttft_ms: 170 (1 Anfrage) — [source](https://github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks-TensorFold#performance)

## Gewichte

- [Mia-AiLab/GLM-5.3-Flash-EXL3-TR3-4bpw](https://huggingface.co/Mia-AiLab/GLM-5.3-Flash-EXL3-TR3-4bpw) (main, other)
- [zai-org/GLM-5.3-Flash](https://huggingface.co/zai-org/GLM-5.3-Flash) (base, mit)
- [incoai/GLM-5.3-Flash-DFlash2](https://huggingface.co/incoai/GLM-5.3-Flash-DFlash2) (draft, cc-by-nc-nd-4.0)

[https://github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks-TensorFold](https://github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks-TensorFold)

## Related

- [Lokale KI auf Ihrer Hardware.](https://www.contextstudios.ai/de/lokale-ki.md)