2× DGX Spark
62,9tok/sSpitze
1 Anfrage, JSON-Prompt Quelle
Intelligenz25mit Denken
Lokale KI · Rezept · 2× DGX Spark
MiMo-V2.5 310B NVFP4 mit vLLM auf 2× DGX Spark (1M Kontext, mit MTP, MiaAI-Lab)
MiMo-V2.5 310B NVFP4 mit vLLM auf 2× DGX Spark (1M Kontext, mit MTP, MiaAI-Lab): 30 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).
von MiaAI-Lab
Engine
- Engine
- vLLM
- Quantisierung
- NVFP4
- Modellfamilie
- MiMo-V2.5
- Kontext
- 1.000.000
- Parameter
- 310B MoE
- Kreator
- MiaAI-Lab
- GitHub-Sterne
- 12
- Repo-Stand
- 14. Sept. 2026
Messwerte
Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.
Decode · 1 Anfrage
Was brauche ich
- Hardware
- 2 × NVIDIA DGX Spark (GB10)
- Gewichte
- Hauptgewichtlukealonso/MiMo-V2.5-NVFP4 MIT
- Engine
- vLLM
- Kontext
- 1.000.000 Token
Verwandte Rezepte
3× DGX Spark
38,8tok/sSpitze
1 Anfrage, Bestwert der Quelle Quelle
Intelligenz25mit Denken
- Abgelöst
2× DGX Spark
38,3tok/sSpitze
1 Anfrage, gemischtes Prompt-Set, Kontext 160k Quelle
Intelligenz25mit Denken
- Experimentell
- Eigener Kernel nötig
- Abgelöst
3× DGX Spark
38,2tok/sSpitze
1 Anfrage, gemischtes Prompt-Set Quelle
Intelligenz25mit Denken
- Experimentell
- Eigener Kernel nötig
2× DGX Spark
37,8tok/sSpitze
1 Anfrage, JSON-Prompt Quelle
Intelligenz25mit Denken
- Eigener Kernel nötig
2× DGX Spark
31,9tok/sSpitze
1 Anfrage, Bestwert der Quelle Quelle
Intelligenz25mit Denken
- Eigener Kernel nötig
Lokale KI im eigenen Unternehmen?
Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.