Lokale KI · Kreator

fujitsupolycom

11 veröffentlichte Rezepte.

Rezepte

8× DGX Spark
74tok/sAlltag

1 Anfrage, Generierung bei 32K Kontext (Speed-Tabelle, Ring aus acht), Thinking on, high, mit DSpark (laut Rezept); experimentelles Profil Quelle 

  • Eigener Kernel nötig
  • Experimentell

Stock-Checkpoint FP8/MXFP4 (DeepSeek)vLLM (local-inference-lab Fork) via SparkRing (SIRCL-Collectives, switchless RDMA ueber ConnectX-7), Image Release 2026.10.2Gewichte Repo Stand 2. Nov. 2026

Details
4× DGX Spark
68tok/sAlltag

1 Anfrage, Generierung bei 32K Kontext (Speed-Tabelle; nur als Pfad aus vier Sparks im 8er-Ring gemessen, nicht als Ring aus vier), Thinking immer an (gemessen vor dem Profil-Standard high, also mit Template-Standard max), mit MTP3 (laut Rezept) Quelle 

Intelligenz42mit Denken
  • Eigener Kernel nötig
  • Lizenz ungeklärt

NVFP4/MXFP8 CSF QAD (Local Inference Lab)vLLM (local-inference-lab Fork) via SparkRing (SIRCL-Collectives, switchless RDMA ueber ConnectX-7), Image Release 2026.10.2Gewichte Repo Stand 2. Nov. 2026

Details
2× DGX Spark
68tok/sAlltag

1 Anfrage, Generierung bei 32K Kontext (Speed-Tabelle, Paar), Thinking on, xhigh, mit MTP3 (laut Rezept) Quelle 

Intelligenz40mit Denken
  • Eigener Kernel nötig
  • Lizenz ungeklärt

NVFP4/MXFP8 CSF QAD (Local Inference Lab)vLLM (local-inference-lab Fork) via SparkRing (SIRCL-Collectives, switchless RDMA ueber ConnectX-7), Image Release 2026.10.2Gewichte Repo Stand 2. Nov. 2026

Details
8× DGX Spark
46tok/sAlltag

1 Anfrage, Generierung bei 32K Kontext (Speed-Tabelle, Ring aus acht, TP8/DCP4), Thinking immer an (gemessen vor dem Profil-Standard high, also mit Template-Standard max), mit MTP2 (laut Rezept); experimentelles Profil Quelle 

Intelligenz45mit Denken
  • Eigener Kernel nötig
  • Experimentell

NVFP4-Experten/BF16 (Local Inference Lab; Dense-Linears beim Laden MXFP8)vLLM (local-inference-lab Fork) via SparkRing (SIRCL-Collectives, switchless RDMA ueber ConnectX-7), Image Release 2026.10.2Gewichte Repo Stand 2. Nov. 2026

Details
2× DGX Spark
38tok/sAlltag

1 Anfrage, Generierung bei 32K Kontext (Speed-Tabelle, Paar), Thinking immer an (gemessen vor dem Profil-Standard high, also mit Template-Standard max), mit MTP3 (laut Rezept) Quelle 

Intelligenz42mit Denken
  • Eigener Kernel nötig
  • Lizenz ungeklärt

NVFP4/MXFP8 CSF QAD (Local Inference Lab)vLLM (local-inference-lab Fork) via SparkRing (SIRCL-Collectives, switchless RDMA ueber ConnectX-7), Image Release 2026.10.2Gewichte Repo Stand 2. Nov. 2026

Details

← Zur Übersicht