Lokale KI · Kreator

fujitsupolycom

3 veröffentlichte Rezepte.

Rezepte

4× DGX Spark

68,8tok/sAlltag

1 Anfrage, realistischer Prompt, mit DSpark (laut Rezept) Quelle

Stock-Checkpoint (FP8 block-quantisiert, fp8_ds_mla KV)vLLMGewichte Repo Stand 27. Sept. 2026

4× DGX Spark

35,1tok/sAlltag

1 Anfrage, realistischer Prompt, mit Qwen MTP3 probabilistic mit standard rejection (laut Rezept) Quelle

EXL3 K5/K6 gemischt, 21.59 GB (hf hydrated); FP8 KV (kv_cache_dtype fp8); EXL3-Prefill FP8, Tile 256vLLMGewichte Repo Stand 27. Sept. 2026

4× DGX Spark

20,2tok/sAlltag

1 Anfrage, realistischer Prompt, mit MTP (fixed-4, greedy Draft) (laut Rezept) Quelle

EXL3 3.5 bpw gemischt (TR3v4), dynamisches NVFP4 MLA + FP8 RoPE KV (nvfp4_ds_mla), target-only exact Q40vLLMGewichte Repo Stand 27. Sept. 2026