DE
Gespräch buchen

Lokale KI · Rezept · 4× RTX PRO 6000

GLM-5.3-Flash FP8 mit vLLM auf 4× RTX PRO 6000

von brandonmusic

222tok/sSpitze

1 Anfrage, Bestwert der Quelle, Kontext 8k

Quelle: huggingface.co
Intelligenz (Originalmodell) · Artificial Analysis42mit Denken
Anleitung im README Repo

Engine

Engine
vLLM
Quantisierung
TrellisMX K4/K5 Experten → FP8 E4M3 Math (UE8M0/32) + nvfp4_ds_mla KV
Modellfamilie
GLM-5.3-Flash
Kontext
1.000.000
Kreator
brandonmusic
GitHub-Sterne
8
Repo-Stand
10. Sept. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
4 × NVIDIA RTX PRO 6000 Blackwell
Engine
vLLM
Kontext
1.000.000 Token

Hinweise

Was vor dem Nachbauen wichtig ist.

  • Eigene Laufzeit
  • Lizenz ungeklärt

Quellen

Verwandte Rezepte

1× DGX Spark

GLM-5.3-Flash EXL3 2.25 bpw mit vLLM auf 1× DGX Spark

von r0b0tlab

19,5tok/sAlltag

1 Anfrage, Prosa-Prompt, mit DFlash2 (laut Rezept) Quelle 

Intelligenz42mit DenkenWert des Originalmodells. Stark komprimiert (~2,3 Bit), Intelligenz dürfte deutlich niedriger liegen.
  • ≤ 3 bit: Quantisierung kann Qualität kosten
  • Experimentell
  • Eigener Kernel nötig
  • Nicht kommerziell

EXL3 2.25 bpw (Drafter EXL3 3.00 bpw)vLLM v0.30.0rc1 @ a00a3544b93eGewichte Repo Stand 25. Sept. 2026

Details

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.

Zum KI-WorkshopZur Übersicht