Zum Inhalt springen

DE

Gespräch buchen

Lokale KI · Kreator

myllmbox

3 veröffentlichte Rezepte.

Rezepte

2× DGX Spark

Qwen3.8-Flash-Next NVFP4 mit vLLM auf 2× DGX Spark (Text)

121tok/sSpitze

1 Anfrage, Code-Prompt Quelle

Intelligenz40mit Denken

Eigener Kernel nötig
Lizenz ungeklärt

hibrid48: NVFP4-Output-Head, bf16-KV (41G/Box-Pin), halbe NVFP4-n-gram-Tabelle pro Box, Marlin MoEvLLMGewichte Repo Stand 26. Sept. 2026

1× DGX Spark

Qwen3.8-Flash-Next NVFP4 mit vLLM auf 1× DGX Spark

82tok/sSpitze

1 Anfrage, Code-Prompt Quelle

Intelligenz40mit Denken

Eigener Kernel nötig
Lizenz ungeklärt

hibrid48: kalibrierter Body mit NVFP4-Output-Head (0.33 GiB), bf16-KV (27G-Pin), NVFP4-n-gram-Tabelle, Marlin MoEvLLMGewichte Repo Stand 26. Sept. 2026

2× DGX Spark

MiMo-V2.6-Flash-RL 309B-A15B mit vLLM auf 2× DGX Spark

38tok/sSpitze

1 Anfrage, Code-Prompt Quelle

Intelligenzkein unabhängiger Wert

Offizieller Checkpoint wie veröffentlicht (bf16); KV bf16 19G/Box-Pin; Marlin MoEvLLMGewichte Repo Stand 27. Sept. 2026

← Zur Übersicht