DE
Gespräch buchen

Lokale KI · Rezept · 4× RTX PRO 6000

GLM-5.2 NVFP4 mit vLLM auf 4× RTX PRO 6000 (192k Kontext)

von brandonmmusic-max

64tok/sAlltag

1 Anfrage, Prosa-Prompt, mit MTP (laut Rezept)

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysis34mit Denkenohne Denken 22

≤ 3 bit: Quantisierung kann Qualität kosten

Anleitung im README Repo

Engine

Engine
vLLM
Quantisierung
MXFP8/NVFP4/NF3-Hybrid weights + NVFP4 MLA KV
Modellfamilie
GLM-5.2
Kontext
196.608
Kreator
brandonmmusic-max
GitHub-Sterne
1
Repo-Stand
6. Sept. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
4 × NVIDIA RTX PRO 6000 Blackwell
Engine
vLLM
Kontext
196.608 Token

Hinweise

Was vor dem Nachbauen wichtig ist.

  • ≤ 3 bit: Quantisierung kann Qualität kostenBei 3 bit und weniger kann das Modell spürbar schlechter antworten als das Original. Die Intelligenz-Zahl gilt für das Original.
  • Eigener Kernel nötig
  • Forschung

Quellen

Verwandte Rezepte

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.

Zum KI-WorkshopZur Übersicht