Lokale KI · Rezept · 1× DGX Spark

Qwen3.6-35B NVFP4 mit vLLM auf 1× DGX Spark

von Weschera

Für dieses Rezept ist kein Tempowert belegt. Die Seite ist deshalb nicht indexiert.

Intelligenz (Originalmodell) · Artificial Analysiskein unabhängiger Wert

Engine

Engine
vLLM
Quantisierung
NVFP4 (RedHatAI) ; BF16/auto KV
Modellfamilie
Qwen3.6-35B
Kontext
262.144
Kreator
Weschera
GitHub-Sterne
0
Repo-Stand
9. Aug. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
1 × NVIDIA DGX Spark (GB10)
Engine
vLLM
Kontext
262.144 Token

Verwandte Rezepte

1× DGX Spark
71,8tok/sAlltag

1 Anfrage, Prosa-Prompt (gesampelt, Thinking aus), mit LiLiCorr (laut Rezept) Quelle 

Intelligenzkein unabhängiger Wert
  • ≤ 3 bit: Quantisierung kann Qualität kosten
  • Eigener Kernel nötig
  • Lizenz ungeklärt

24GB pack: IQ2_XXS experts (2.0625 bits), NVFP4 Mamba projections, Q8_0 attention/latent projections/lm_head; bf16 KVTensorFold tensorfold-native v1.1.6 (eea9dc9c) + recipe patches/ (Bolt lane backend, libbolt.so CUDA forward pass), LiLiCorr draftsGewichte Repo Stand 1. Nov. 2026

Details
1× DGX Spark
59,4tok/sAlltag

1 Anfrage, Chat-Prompt (20 Prompts, Thinking aus), ohne Drafting (Standardprofil) Quelle 

Intelligenzkein unabhängiger Wert
  • Eigener Kernel nötig

EXL3 6.08 bpw (28,3 GB), FP16 KV; nur Textpfad (Vision-Tower wird von ExLlamaV3 nicht ausgeführt)ExLlamaV3 1.5.0 (Fork r0b0tlab/exllamav3-r0b0t, Branch minicpm-v4.7-dspark @ 5ddae7d12448), torch 2.14.0+cu130Gewichte Repo Stand 14. Okt. 2026

Details
1× DGX Spark
55,6tok/sAlltag

1 Anfrage, Prosa-Prompt, mit MTP (laut Rezept) Quelle 

Intelligenz40mit Denken
  • Eigener Kernel nötig
  • Lizenz ungeklärt

NVIDIA FP4-QAD-Export (FP4-Local @b9ce18a6): Routed Experts NVFP4 (Gruppe 16), Attention/Shared Expert MXFP8, alle 512 Experten mit 10 pro Token; n-gram-Tabelle per pread von der SSD; FP8 KVTensorFold tensorfold-native (Zig) v1.1.4 (eab85828) + Patches 0001–0017, Image tensorfold-qwen38:v1.1.4-eab8582 (GHCR v1.1.4-eab8582-4baf16137ecd) auf nvcr.io/nvidia/pytorch:26.07-py3, MTP-DraftsGewichte Repo Stand 30. Okt. 2026

Details

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.