---
type: "Article"
title: "MiMo-V2.6-Flash-MOPD 309B-A15B mit vLLM auf 2× DGX Spark"
description: "MiMo-V2.6-Flash-MOPD 309B-A15B mit vLLM auf 2× DGX Spark: Rezept von myllmbox mit Tempo, Bedingung und Quelle je Zahl, Gewichten und Lizenz."
resource: "https://www.contextstudios.ai/de/lokale-ki/myllmbox--mimo-v26-flash-mopd-2x-dgx-spark"
language: "de"
generated:
  by: "process:contextstudios-md/1"
  at: "2026-11-17T02:14:07.522Z"
status: "stable"
---

# MiMo-V2.6-Flash-MOPD 309B-A15B mit vLLM auf 2× DGX Spark

MiMo-V2.6-Flash-MOPD 309B-A15B mit vLLM auf 2× DGX Spark: 49 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).

- Kreator: [myllmbox](https://www.contextstudios.ai/de/lokale-ki/kreatoren/myllmbox.md)
- Engine: vLLM 0.30.1rc1 (Nightly ddd6fbca, Image myllmbox/mimo-v26-flash-cluster-vllm:v2: mbx-Loader, Split-KV-Attention beim Spec-Decoding), TP=2 über RDMA, MTP K=3 (3 trainierte Draft-Layer)
- Quantisierung: Offizieller Checkpoint wie veröffentlicht (config.json: quant_method fp8, store_dtype mxfp4); KV-Pool 16 GB/Box ≈ 1,22M Token; Marlin MoE
- Modellfamilie: MiMo-V2.6-Flash-MOPD
- Hardware: dgx-spark x2
- Kontext: 300000

## Alle Zahlen

- 49 tok/s (Spitze; Spitze, 1 Anfrage, Code-lastiger Spec-Prompt (SQL/TypeScript), Thinking off, mit MTP K=3) — [source](https://github.com/myllmbox/mimo-v26-flash-cluster-recipe#measured-performance-this-exact-stack-2-dgx-spark-rdma-mtp-k3-vmcompaction_proactiveness0)
- decode_tps: 49 (1 Anfrage) — [source](https://github.com/myllmbox/mimo-v26-flash-cluster-recipe#measured-performance-this-exact-stack-2-dgx-spark-rdma-mtp-k3-vmcompaction_proactiveness0)
- prefill_tps: 1947 (1 Anfrage) — [source](https://github.com/myllmbox/mimo-v26-flash-cluster-recipe#long-context-one-request)
- ttft_ms: 690 (1 Anfrage) — [source](https://github.com/myllmbox/mimo-v26-flash-cluster-recipe#long-context-one-request)

## Gewichte

- [XiaomiMiMo/MiMo-V2.6-Flash-MOPD](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Flash-MOPD) (main, mit)

[https://github.com/myllmbox/mimo-v26-flash-cluster-recipe](https://github.com/myllmbox/mimo-v26-flash-cluster-recipe)

## Related

- [Lokale KI auf Ihrer Hardware.](https://www.contextstudios.ai/de/lokale-ki.md)
