---
type: "Article"
title: "Nemotron-3.5-Bolt 74B-A9B 24GB-Pack mit TensorFold auf 1× DGX Spark"
description: "Nemotron-3.5-Bolt 74B-A9B 24GB-Pack mit TensorFold auf 1× DGX Spark: Rezept von MiaAI-Lab mit Tempo, Bedingung und Quelle je Zahl, Gewichten und Lizenz."
resource: "https://www.contextstudios.ai/de/lokale-ki/miaai-lab--nemotron-3.5-bolt-74b-a9b-24gb-tensorfold-dgx-spark"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-11-10T13:19:46.865Z"
status: "stable"
---

# Nemotron-3.5-Bolt 74B-A9B 24GB-Pack mit TensorFold auf 1× DGX Spark

Nemotron-3.5-Bolt 74B-A9B 24GB-Pack mit TensorFold auf 1× DGX Spark: 71,8 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).

- Kreator: [MiaAI-Lab](https://www.contextstudios.ai/de/lokale-ki/kreatoren/miaai-lab.md)
- Engine: TensorFold tensorfold-native v1.1.6 (eea9dc9c) + recipe patches/ (Bolt lane backend, libbolt.so CUDA forward pass), LiLiCorr drafts
- Quantisierung: 24GB pack: IQ2_XXS experts (2.0625 bits), NVFP4 Mamba projections, Q8_0 attention/latent projections/lm_head; bf16 KV
- Modellfamilie: Nemotron-3.5-Bolt-74B-A9B
- Hardware: dgx-spark x1
- Kontext: 262144

## Alle Zahlen

- 71,8 tok/s (Alltag; Alltag, 1 Anfrage, Prosa-Prompt (gesampelt, Thinking aus), mit LiLiCorr (laut Rezept)) — [source](https://github.com/MiaAI-Lab/Nemotron-3.5-Bolt-TensorFold-DGX-Spark#speed)
- decode_tps: 71.8 (1 Anfrage) — [source](https://github.com/MiaAI-Lab/Nemotron-3.5-Bolt-TensorFold-DGX-Spark#speed)
- decode_tps: 137.4 (1 Anfrage) — [source](https://github.com/MiaAI-Lab/Nemotron-3.5-Bolt-TensorFold-DGX-Spark#speed)
- prefill_tps: 2485 (1 Anfrage) — [source](https://github.com/MiaAI-Lab/Nemotron-3.5-Bolt-TensorFold-DGX-Spark#speed)

## Gewichte

- [nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB](https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB) (main, other)
- [nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB-LiLiCorr](https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB-LiLiCorr) (draft, other)

[https://github.com/MiaAI-Lab/Nemotron-3.5-Bolt-TensorFold-DGX-Spark](https://github.com/MiaAI-Lab/Nemotron-3.5-Bolt-TensorFold-DGX-Spark)

## Related

- [Lokale KI auf Ihrer Hardware.](https://www.contextstudios.ai/de/lokale-ki.md)