---
type: "Article"
title: "Qwen3.8-Flash-Next NVFP4 mit vLLM (b12x) auf 1× DGX Spark"
description: "Qwen3.8-Flash-Next NVFP4 mit vLLM (b12x) auf 1× DGX Spark: Rezept von vcruz305 mit Tempo, Bedingung und Quelle je Zahl, Gewichten und Lizenz."
resource: "https://www.contextstudios.ai/de/lokale-ki/vcruz305--qwen38-flash-next-nvfp4-1spark-vllm-b12x"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-11-11T03:30:24.036Z"
status: "stable"
---

# Qwen3.8-Flash-Next NVFP4 mit vLLM (b12x) auf 1× DGX Spark

Qwen3.8-Flash-Next NVFP4 mit vLLM (b12x) auf 1× DGX Spark: 68,1 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).

- Kreator: [vcruz305](https://www.contextstudios.ai/de/lokale-ki/kreatoren/vcruz305.md)
- Engine: vLLM im Container eugr/spark-vllm-b12x (Digest sha256:03a95654), MTP k=4
- Quantisierung: NVFP4+csf (NVIDIA FP4-Local, QAD), FP8 KV, PLE-n-gram-Tabelle von NVMe
- Modellfamilie: Qwen3.8-Flash-Next
- Hardware: dgx-spark x1
- Kontext: 262144
- Artificial Analysis Intelligence Index: 39.8 ([source](https://artificialanalysis.ai/models/qwen3-8-flash-next))

## Alle Zahlen

- 68,1 tok/s (Spitze; Spitze, 1 Anfrage, synthetische Speed-Suite (p50), mit MTP (laut Rezept)) — [source](https://github.com/vcruz305/Qwen3.8-Flash-Next-FP4-Spark-recipe#measured-speed-client-observed-this-route-exposes-no-server-metrics)
- decode_tps: 68.06 (1 Anfrage) — [source](https://github.com/vcruz305/Qwen3.8-Flash-Next-FP4-Spark-recipe#measured-speed-client-observed-this-route-exposes-no-server-metrics)

## Gewichte

- [nvidia/Qwen3.8-Flash-Next-FP4-Local](https://huggingface.co/nvidia/Qwen3.8-Flash-Next-FP4-Local) (main, other)
- [Qwen/Qwen3.8-Flash-Next](https://huggingface.co/Qwen/Qwen3.8-Flash-Next) (base, other)

[https://github.com/vcruz305/Qwen3.8-Flash-Next-FP4-Spark-recipe](https://github.com/vcruz305/Qwen3.8-Flash-Next-FP4-Spark-recipe)

## Related

- [Lokale KI auf Ihrer Hardware.](https://www.contextstudios.ai/de/lokale-ki.md)