---
type: "Article"
title: "Nemotron-3.5-Super-VL 120B-A12B NVFP4 mit vLLM auf 1× DGX Spark"
description: "Nemotron-3.5-Super-VL 120B-A12B NVFP4 mit vLLM auf 1× DGX Spark: Rezept von sfxnz mit Tempo, Bedingung und Quelle je Zahl, Gewichten und Lizenz."
resource: "https://www.contextstudios.ai/de/lokale-ki/sfxnz--nemotron-35-super-vl-120b-a12b-nvfp4-lilicorr-1x-dgx-spark"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-11-17T02:16:08.080Z"
status: "stable"
---

# Nemotron-3.5-Super-VL 120B-A12B NVFP4 mit vLLM auf 1× DGX Spark

Nemotron-3.5-Super-VL 120B-A12B NVFP4 mit vLLM auf 1× DGX Spark: 48 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).

- Kreator: [sfxnz](https://www.contextstudios.ai/de/lokale-ki/kreatoren/sfxnz.md)
- Engine: vLLM 0.32.0rc1 (nightly 3f1bcfd8, pinned vllm/vllm-openai@sha256:cb9bc64f…), LiLiCorr speculative decoding (dflash, 7 tokens), fastsafetensors
- Quantisierung: NVFP4 experts, FP8 Mamba projections and attention, FP8 KV
- Modellfamilie: Nemotron-3.5-Super-VL-120B-A12B
- Hardware: dgx-spark x1
- Kontext: 1048576

## Alle Zahlen

- 48 tok/s (Gemischt; Gemischt, 1 Anfrage, gemischtes Prompt-Set (SPEED-Bench), greedy, Thinking aus, mit LiLiCorr (laut Rezept)) — [source](https://github.com/sfxnz/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-DGX-SPARK#measured-on-1-dgx-spark)
- decode_tps: 48 (1 Anfrage) — [source](https://github.com/sfxnz/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-DGX-SPARK#measured-on-1-dgx-spark)
- decode_tps: 189 (32 parallele Anfragen) — [source](https://github.com/sfxnz/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-DGX-SPARK#measured-on-1-dgx-spark)
- prefill_tps: 2466 (1 Anfrage) — [source](https://github.com/sfxnz/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-DGX-SPARK#measured-on-1-dgx-spark)
- ttft_ms: 400 (1 Anfrage) — [source](https://github.com/sfxnz/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-DGX-SPARK#measured-on-1-dgx-spark)

## Gewichte

- [nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4](https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4) (main, other)
- [nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr](https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr) (draft, other)

[https://github.com/sfxnz/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-DGX-SPARK](https://github.com/sfxnz/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-DGX-SPARK)

## Related

- [Lokale KI auf Ihrer Hardware.](https://www.contextstudios.ai/de/lokale-ki.md)
