---
type: "Article"
title: "Qwen3 BF16 mit vLLM auf 2× RTX 3090"
description: "Qwen3 BF16 mit vLLM auf 2× RTX 3090: Rezept von alesha-pro mit Tempo, Bedingung und Quelle je Zahl, Gewichten und Lizenz."
resource: "https://www.contextstudios.ai/de/lokale-ki/alesha-pro--qwen3-cross-model-kv-prefill-reuse-2x3090"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-11-11T03:38:03.275Z"
status: "stable"
---

# Qwen3 BF16 mit vLLM auf 2× RTX 3090

- Kreator: [alesha-pro](https://www.contextstudios.ai/de/lokale-ki/kreatoren/alesha-pro.md)
- Engine: vLLM 0.26.0
- Quantisierung: BF16 (Modelle), Ridge-Mapper fp32/bf16
- Modellfamilie: Qwen3
- Hardware: rtx-3090 x2
- Kontext: 32768

## Alle Zahlen

- kein Tempowert belegt
- ttft_ms: 458 (1 Anfrage) — [source](https://github.com/alesha-pro/vllm-cross-model-kv#results)

## Gewichte

- [Qwen/Qwen3-0.6B](https://huggingface.co/Qwen/Qwen3-0.6B) (base, apache-2.0)
- [Qwen/Qwen3-1.7B](https://huggingface.co/Qwen/Qwen3-1.7B) (main, apache-2.0)

[https://github.com/alesha-pro/vllm-cross-model-kv](https://github.com/alesha-pro/vllm-cross-model-kv)

## Related

- [Lokale KI auf Ihrer Hardware.](https://www.contextstudios.ai/de/lokale-ki.md)