Lokale KI · Kreator

ambientlight

4 veröffentlichte Rezepte.

Rezepte

4× RTX PRO 6000

73,1tok/sAlltag

1 Anfrage, Prosa-Prompt, Kontext 32788, mit DSPARK Quelle

nativ: MXFP4-Experten + FP8 (offizielle Gewichte), FP8-KVSGLangGewichte Repo Stand 26. Sept. 2026

4× RTX PRO 6000

82,7tok/sSpitze

1 Anfrage, Bestwert der Quelle, Kontext 8192 Quelle

nativ MXFP4-Experten (W4A8: MXFP8-Aktivierungen) + FP8, FP8-E4M3-KVSGLangGewichte Repo Stand 20. Aug. 2026

4× RTX PRO 6000

39,2tok/sSpitze

1 Anfrage, synthetischer Prompt Quelle

MXFP4 Experten + MXFP8 LinearsSGLangGewichte Repo Stand 20. Aug. 2026

4× RTX PRO 6000

11,1tok/sSpitze

1 Anfrage, synthetischer Prompt, Kontext 1m Quelle

nativ MXFP4 Experten + FP8SGLangGewichte Repo Stand 20. Aug. 2026