---
type: "Article"
title: "Qwen3.8-Flash-Next FP8 mit vLLM auf 8× RTX PRO 6000"
description: "Qwen3.8-Flash-Next FP8 mit vLLM auf 8× RTX PRO 6000: Rezept von helixml mit Tempo, Bedingung und Quelle je Zahl, Gewichten und Lizenz."
resource: "https://www.contextstudios.ai/de/lokale-ki/helixml--qwen38-flash-next-fp8-vllm-2xtp4-8xpro6000"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-11-11T03:30:11.901Z"
status: "stable"
---

# Qwen3.8-Flash-Next FP8 mit vLLM auf 8× RTX PRO 6000

Qwen3.8-Flash-Next FP8 mit vLLM auf 8× RTX PRO 6000: 202 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).

- Kreator: [helixml](https://www.contextstudios.ai/de/lokale-ki/kreatoren/helixml.md)
- Engine: vLLM (vllm/vllm-openai@sha256:0aea3024…, 2× TP4 + Expert-Parallel, MTP3) hinter ramjet v0.8.0
- Quantisierung: FP8 (offizieller Checkpoint Qwen/Qwen3.8-Flash-Next-FP8)
- Modellfamilie: Qwen3.8-Flash-Next
- Hardware: rtx-pro-6000 x8
- Kontext: 262144
- Artificial Analysis Intelligence Index: 39.8 ([source](https://artificialanalysis.ai/models/qwen3-8-flash-next))

## Alle Zahlen

- 202 tok/s (Spitze; Spitze, 1 Anfrage, Bestwert der Quelle, mit MTP3) — [source](https://github.com/helixml/ramjet#models-with-a-validated-stack)
- decode_tps: 202 (1 Anfrage) — [source](https://github.com/helixml/ramjet#models-with-a-validated-stack)

## Gewichte

- [Qwen/Qwen3.8-Flash-Next-FP8](https://huggingface.co/Qwen/Qwen3.8-Flash-Next-FP8) (main, other)
- [Qwen/Qwen3.8-Flash-Next](https://huggingface.co/Qwen/Qwen3.8-Flash-Next) (base, other)

[https://github.com/helixml/ramjet](https://github.com/helixml/ramjet)

## Related

- [Lokale KI auf Ihrer Hardware.](https://www.contextstudios.ai/de/lokale-ki.md)