---
type: "Article"
title: "Qwen3.8 27B EXL3 4 bpw mit ExLlamaV3 auf 1× RTX 5090 (One-Click-Kit)"
description: "Qwen3.8 27B EXL3 4 bpw mit ExLlamaV3 auf 1× RTX 5090 (One-Click-Kit): Rezept von MiaAI-Lab mit Tempo, Bedingung und Quelle je Zahl, Gewichten und Lizenz."
resource: "https://www.contextstudios.ai/de/lokale-ki/miaai-lab--qwen3.8-27b-exl3-rtx-5090-one-click"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-10-24T17:14:00.823Z"
status: "stable"
---

# Qwen3.8 27B EXL3 4 bpw mit ExLlamaV3 auf 1× RTX 5090 (One-Click-Kit)

Qwen3.8 27B EXL3 4 bpw mit ExLlamaV3 auf 1× RTX 5090 (One-Click-Kit): 122 tok/s laut github.com (Datensatz-Stand: 29. Sept. 2026).

- Kreator: [MiaAI-Lab](https://www.contextstudios.ai/de/lokale-ki/kreatoren/miaai-lab.md)
- Engine: ExLlamaV3 v1.6.0 (tools/serve_openai.py), MTP; opt-in DRAFT=dflash2
- Quantisierung: EXL3 4.0 bpw (turboderp) + int4 KV
- Modellfamilie: Qwen3.8
- Hardware: rtx-5090 x1
- Kontext: 262144
- Artificial Analysis Intelligence Index: 33.7 ([source](https://artificialanalysis.ai/models/qwen3-8-27b))

## Alle Zahlen

- 122 tok/s (Gemischt; Gemischt, 1 Anfrage, llama-benchy 2048-Token-Prompt, 128 Token out, Tiefe 0, mit MTP) — [source](https://github.com/MiaAI-Lab/Qwen3.8-27B-16gb-NVIDIA-GPUs-one-click-install#what-was-measured)
- decode_tps: 121.8 (1 Anfrage) — [source](https://github.com/MiaAI-Lab/Qwen3.8-27B-16gb-NVIDIA-GPUs-one-click-install#what-was-measured)
- decode_tps: 366.4 (1 Anfrage) — [source](https://github.com/MiaAI-Lab/Qwen3.8-27B-16gb-NVIDIA-GPUs-one-click-install#what-was-measured)

## Gewichte

- [turboderp/Qwen3.8-27B-exl3](https://huggingface.co/turboderp/Qwen3.8-27B-exl3) (main, apache-2.0)
- [r0b0tlab/Qwen3.8-27B-DFlash2-EXL3-4.00bpw](https://huggingface.co/r0b0tlab/Qwen3.8-27B-DFlash2-EXL3-4.00bpw) (draft, apache-2.0)
- [Qwen/Qwen3.8-27B](https://huggingface.co/Qwen/Qwen3.8-27B) (base, apache-2.0)
- [Mia-AiLab/Qwen3.8-27B-EXL3-2.0bpw](https://huggingface.co/Mia-AiLab/Qwen3.8-27B-EXL3-2.0bpw) (other, apache-2.0)

[https://github.com/MiaAI-Lab/Qwen3.8-27B-16gb-NVIDIA-GPUs-one-click-install](https://github.com/MiaAI-Lab/Qwen3.8-27B-16gb-NVIDIA-GPUs-one-click-install)

## Related

- [Lokale KI auf Ihrer Hardware.](https://www.contextstudios.ai/de/lokale-ki.md)