Ihr Ziel
Sichtbar werden, wo KI antwortet
Prozesse automatisieren
Ein Produkt bauen
KI-Agenten einsetzen
Systeme verbinden und modernisieren
Wissen, wo wir stehen
Use Cases
CRMKundenbeziehungen stärkenBeliebtE-CommerceOnline-Umsatz steigernBuchungssystem24/7 Termine annehmenProjektmanagementTeams koordinierenRechnungswesenSchneller bezahlt werdenAnalyticsDatenbasiert entscheidenLokale KI · Rezept · 4× DGX Spark
GLM-5.3-Flash 320B-A18B NVFP4 mit vLLM auf 4× DGX Spark: 40,8 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).
von tonyd2wild
Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.
Was vor dem Nachbauen wichtig ist.
1 Anfrage, Generierung bei 32K Kontext (Speed-Tabelle; nur als Pfad aus vier Sparks im 8er-Ring gemessen, nicht als Ring aus vier), Thinking immer an (gemessen vor dem Profil-Standard high, also mit Template-Standard max), mit MTP3 (laut Rezept) Quelle
1 Anfrage, Prosa-Prompt, mit MTP + DFlash2 (laut Rezept) Quelle
Prosa-Decode, 1 Request; Qualität (FP8-KV, 4-bit dense): GSM8K 98,8 % / HumanEval 95,7 % / HumanEval+ & MBPP+ 86,5 % Quelle
1 Anfrage, Prosa-Prompt, mit MTP + DFlash2 (laut Rezept) Quelle
1 Anfrage, Prosa-Prompt, mit DFlash2, TR3-Gewichte (laut Rezept) Quelle
1 Anfrage, Generierung bei 32K Kontext (Speed-Tabelle, Paar), Thinking immer an (gemessen vor dem Profil-Standard high, also mit Template-Standard max), mit MTP3 (laut Rezept) Quelle
Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.
