Lokale KI · Rezept · 4× RTX PRO 6000

MiniMax-M3 428B-A23B MXFP4 mit SGLang auf 4× RTX PRO 6000

von ambientlight

39,2tok/sSpitze

1 Anfrage, synthetischer Prompt

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysis29mit Denken

Engine

Engine
SGLang
Quantisierung
MXFP4 Experten + MXFP8 Linears
Modellfamilie
MiniMax-M3
Kontext
1.048.576
Parameter
428B MoE / 23B active
Kreator
ambientlight
GitHub-Sterne
5
Repo-Stand
20. Aug. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
4 × NVIDIA RTX PRO 6000 Blackwell
Gewichte
Engine
SGLang
Kontext
1.048.576 Token

Verwandte Rezepte

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.