Lokale KI · Kreator

vcruz305

19 veröffentlichte Rezepte.

Rezepte

3× DGX Spark
6,59tok/sAlltag

1 Anfrage, Prosa-Prompt, ohne Spekulation Quelle 

Intelligenz44mit DenkenWert des Originalmodells. Stark komprimiert (~0,95 Bit), Intelligenz dürfte deutlich niedriger liegen.
  • ≤ 3 bit: Quantisierung kann Qualität kosten
  • Experimentell
  • Sehr starke Quantisierung
  • Lizenz ungeklärt

GGUF UD-IQ1_S (330 GB)SparkInfer sparkinfer-k3 + Patches 0001–0026Gewichte Repo Stand 13. Sept. 2026

Details
1× DGX Spark
17,5tok/sGemischt

1 Anfrage, gemischtes Prompt-Set, mit DSpark Quelle 

Intelligenz40mit Denkenohne Denken 25Wert des Originalmodells. Stark komprimiert (~1,6 Bit), Intelligenz dürfte deutlich niedriger liegen.
  • ≤ 3 bit: Quantisierung kann Qualität kosten
  • Sehr starke Quantisierung
  • Eigener Kernel nötig

EXL3 SAGE 1.59bpwExLlamaV3 Fork + EXL3-Attention/MTP-OverlayGewichte Repo Stand 25. Sept. 2026

Details

← Zur Übersicht