Ihr Ziel
Sichtbar werden, wo KI antwortet
Prozesse automatisieren
Ein Produkt bauen
KI-Agenten einsetzen
Systeme verbinden und modernisieren
Wissen, wo wir stehen
Use Cases
CRMKundenbeziehungen stärkenBeliebtE-CommerceOnline-Umsatz steigernBuchungssystem24/7 Termine annehmenProjektmanagementTeams koordinierenRechnungswesenSchneller bezahlt werdenAnalyticsDatenbasiert entscheidenLokale KI · Rezept · 4× RTX PRO 6000
GLM-5.3-Flash TrellisMX codec-v2 FP8 mit vLLM auf 4× RTX PRO 6000: 189 tok/s laut huggingface.co (Datensatz-Stand: 3. Nov. 2026).
von brandonmusic
1 Anfrage, Kontext 0 (78 Prompt-Token), synthetischer Dauer-Decode mit ignore-EOS, mit MTP3 (laut Rezept)
Quelle: huggingface.coAlle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.
Kürzer ist besser.
Was vor dem Nachbauen wichtig ist.
1 Anfrage, Generierung bei 32K Kontext (Speed-Tabelle; nur als Pfad aus vier Sparks im 8er-Ring gemessen, nicht als Ring aus vier), Thinking immer an (gemessen vor dem Profil-Standard high, also mit Template-Standard max), mit MTP3 (laut Rezept) Quelle
1 Anfrage, Prosa-Prompt, mit MTP + DFlash2 (laut Rezept) Quelle
Prosa-Decode, 1 Request; Qualität (FP8-KV, 4-bit dense): GSM8K 98,8 % / HumanEval 95,7 % / HumanEval+ & MBPP+ 86,5 % Quelle
1 Anfrage, Prosa-Prompt, mit MTP + DFlash2 (laut Rezept) Quelle
1 Anfrage, Prosa-Prompt, mit DFlash2 (laut Rezept) Quelle
1 Anfrage, Prosa-Prompt, mit DFlash2, TR3-Gewichte (laut Rezept) Quelle
Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.
