---
type: "Article"
title: "Ling-3.1-Flash-1019 EXL3 3.03 bpw mit TensorFold auf 2× DGX Spark"
description: "Ling-3.1-Flash-1019 EXL3 3.03 bpw mit TensorFold auf 2× DGX Spark: Rezept von bertholomus mit Tempo, Bedingung und Quelle je Zahl, Gewichten und Lizenz."
resource: "https://www.contextstudios.ai/de/lokale-ki/bertholomus--ling-3.1-flash-1019-exl3-3.03bpw-tensorfold-2x-dgx-spark"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-11-11T03:37:57.937Z"
status: "stable"
---

# Ling-3.1-Flash-1019 EXL3 3.03 bpw mit TensorFold auf 2× DGX Spark

Ling-3.1-Flash-1019 EXL3 3.03 bpw mit TensorFold auf 2× DGX Spark: ~38,2 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).

- Kreator: [bertholomus](https://www.contextstudios.ai/de/lokale-ki/kreatoren/bertholomus.md)
- Engine: TensorFold (bertholomus fork, branch ling-3.1-tp2 @ 72f16e48, bailing_v3 family on TensorFold v0.6.6 CUDA engine), image nvcr.io/nvidia/pytorch:26.07-py3, TP2 over direct RoCE, MTP drafting (adaptive depth)
- Quantisierung: EXL3 3.03 bpw (routed experts 3, shared experts 5, KDA attention 4, dense MLP 4, MLA attention 6, head 6, MTP layer 4)
- Modellfamilie: Ling-3.1-Flash-1019
- Hardware: dgx-spark x2
- Kontext: 262144

## Alle Zahlen

- ~38,2 tok/s (Spitze; Bestwert der Quelle, 1 Anfrage, Prompt-Typ nicht genannt, 2.222 Prompt-Tokens, Bereich 37,7–38,7 tok/s, mit MTP (laut Rezept)) — [source](https://github.com/bertholomus/ling-3.1-tensorfold-tp2-2xgb10#v020-2026-10-28-ling-31-flash-1019-with-its-native-262k-window)
- decode_tps: 38.2 (1 Anfrage) — [source](https://github.com/bertholomus/ling-3.1-tensorfold-tp2-2xgb10#v020-2026-10-28-ling-31-flash-1019-with-its-native-262k-window)
- prefill_tps: 568 (1 Anfrage) — [source](https://github.com/bertholomus/ling-3.1-tensorfold-tp2-2xgb10#v020-2026-10-28-ling-31-flash-1019-with-its-native-262k-window)

## Gewichte

- [bertholomus/Ling-3.1-flash-1019-EXL3-3.03bpw](https://huggingface.co/bertholomus/Ling-3.1-flash-1019-EXL3-3.03bpw) (main, mit)
- [inclusionAI/Ling-3.1-flash-1019](https://huggingface.co/inclusionAI/Ling-3.1-flash-1019) (base, mit)

[https://github.com/bertholomus/ling-3.1-tensorfold-tp2-2xgb10](https://github.com/bertholomus/ling-3.1-tensorfold-tp2-2xgb10)

## Related

- [Lokale KI auf Ihrer Hardware.](https://www.contextstudios.ai/de/lokale-ki.md)