---
type: "Guide"
title: "Qwen3.5 lokal auf der DGX Spark: Das komplette Setup-Handbuch (2026)"
description: "Qwen3.5 lokal auf dem NVIDIA DGX Spark: Modellgrößen, Quants, llama.cpp-Setup, reale tok/s und wann sich der Spark gegenüber Mac Studio oder Cloud rechnet."
resource: "https://www.contextstudios.ai/de/guides/qwen3-5-lokal-auf-dem-dgx-spark"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-10-27T06:21:00.694Z"
status: "stable"
---

# Qwen3.5 lokal auf der DGX Spark: Das komplette Setup-Handbuch (2026)

Qwen3.5 auf der DGX Spark ist der Sweet Spot für lokale KI-Workloads: Die 128-GB-Einheit decodiert Qwen3.5 30B in Q4 mit 60–90 tok/s, den 30B-A3B MoE mit über 100 tok/s. Wir zeigen Setup, Quant-Auswahl und die realen Zahlen gegen Mac Studio und Cloud.

## Die besten Setups im Überblick

1. **NVIDIA DGX Spark (GB10, 128 GB)** — Bestes Preis-Leistungs-Verhältnis für Dauerverbraucher. Qwen3.5 30B in Q4 läuft mit 60–90 tok/s, 30B in Q8 noch mit 30–40 tok/s, und dank 128 GB passen alle Varianten bis 70B-A3B komfortabel hinein. 4.299 € UVP, im Handel ab ca. 3.999 €.
   Specialization: Kompakter Desktop mit 128 GB Coherent Memory und NVFP4-Beschleunigung
   Price range: 4.299 € UVP, ab ca. 3.999 €
2. **Apple Mac Studio M5 Ultra** — Die entspannteste Lösung für Modelle ab 100 GB. Qwen3.5 30B-A3B in 4-Bit schafft 80–110 tok/s auf der M5 Ultra, 70B-A3B 80–100 tok/s. Große MoE bis 235B-A22B laufen flüssig im Hauptspeicher. Dafür startet die Konfiguration bei ca. 7.000 €.
   Specialization: Höchster Durchsatz pro Watt bei großen Kontexten und MoE-Modellen
   Price range: ca. 7.000–10.000 € je nach RAM
3. **NVIDIA RTX 5090 Workstation** — Der Workstation-Klassiker bleibt relevant: Qwen3.5 30B-A3B in Q4 mit 120–160 tok/s, dank 800 GB/s Bandbreite auch bei langen Kontexten stabil. Nachteil: 24–32 GB VRAM reichen nur bis 30B-A3B oder 14B dense in höheren Quants. Ab ca. 2.400 €, gebrauchte RTX 3090 ab 1.200 €.
   Specialization: Maximale Tokens/s für einzelne, große Dense- und A3B-Modelle
   Price range: ab ca. 2.400 €, gebraucht RTX 3090 ab 1.200 €
4. **Mac mini M4/M5 (16–32 GB) oder Cloud-API** — Für Einsteiger mit sparsamen Workloads: Qwen3.5 4B/8B in Q4 läuft mit 15–30 tok/s und deckt Chat sowie kurze Analysen ab. Ab 30B wird es zäh. Cloud-APIs sind unter 10 Requests/Tag meist günstiger als jede eigene Hardware.
   Specialization: Einstieg und gelegentliche Aufgaben ohne Infrastruktur
   Price range: ab ca. 900 € bzw. nutzungsbasiert

## So wählst du dein Setup

- Hardware und Budget zuerst klären: Der Spark lohnt sich für Dauerverbraucher mit 30 und mehr Requests pro Tag; darunter ist die Cloud oft günstiger.
- Modellgröße an den Speicher koppeln: Bis 100 GB läuft Qwen3.5 auf dem Spark komfortabel, 100 bis 200 GB geht mit Abstrichen, darüber Mac Studio einplanen.
- Q4_K_M als Standardquant wählen: Guter Kompromiss aus Qualität und Geschwindigkeit; für empfindliche Ausgaben Q5 oder Q6 testen.
- Engine nach Anwendfall wählen: llama.cpp für Agenten- und Tool-Workflows, MLX auf Apple-Hardware, vLLM für hohe Parallelität.
- Immer mit dem 1.0-Prompt testen: Vor jedem Quant-Vergleich denselben Prompt durch dieselbe Pipeline laufen lassen.
- Server dauerhaft laufen lassen und per API anbinden: Der llama-server ist der zuverlässigste Weg, Qwen3.5 in Bestehendes zu integrieren.

## Häufige Fragen

### Woher stammen die Fakten?

Nate, „Running Qwen3.5 Locally on NVIDIA DGX Spark – 2 TB/s Memory“ (YouTube) plus NVIDIA-DGX-Spark-Doku und llama.cpp-Modelldokumentation — je Stand 19.10.2026.

### Warum läuft Qwen3.5 auf dem Spark so viel schneller als im Mac mini?

Der DGX Spark hat 128 GB LPDDR5x mit rund 273 GB/s Bandbreite. Der Speicher liegt on-package und ist damit deutlich schneller erreichbar als normaler RAM im Mini-PC; Modelle bis etwa 100 GB laufen dadurch flott.

### Kann ich auch große MoE-Modelle über 100 GB auf dem Spark fahren?

Ja, mit Abstrichen: Modelle mit 100 bis 200 GB laufen, aber unter Volllast wird es eng. Für Qwen3.5 235B-A22B oder größere MoE ist ein Mac Studio mit 96 bis 256 GB die entspanntere Wahl.

### Ist Qwen3.5 frei nutzbar?

Ja. Qwen3.5 steht unter Apache 2.0, die Gewichte sind auf Hugging Face frei verfügbar, llama.cpp ist Open Source. Es entstehen nur Strom- und einmalige Hardwarekosten.

### Ersetzt lokales Qwen3.5 die Cloud?

Das hängt von Modell, Aufwand und Tagesform ab. In der Redaktion ersetzt lokales Qwen3.5 Routineaufgaben wie Entwürfe, Zusammenfassungen und Code-Reviews — nicht aber die Endredaktion.