Ihr Ziel
Sichtbar werden, wo KI antwortet
Prozesse automatisieren
Ein Produkt bauen
KI-Agenten einsetzen
Systeme verbinden und modernisieren
Wissen, wo wir stehen
Use Cases
CRMKundenbeziehungen stärkenBeliebtE-CommerceOnline-Umsatz steigernBuchungssystem24/7 Termine annehmenProjektmanagementTeams koordinierenRechnungswesenSchneller bezahlt werdenAnalyticsDatenbasiert entscheidenLokale KI · Rezept · 1× DGX Spark
GLM-5.3-Flash EXL3 mit SGLang auf 1× DGX Spark: 18,6 tok/s laut github.com (Datensatz-Stand: 3. Nov. 2026).
von vcruz305
≤ 3 bit: Quantisierung kann Qualität kosten
Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.
Was vor dem Nachbauen wichtig ist.
1 Anfrage, Generierung bei 32K Kontext (Speed-Tabelle; nur als Pfad aus vier Sparks im 8er-Ring gemessen, nicht als Ring aus vier), Thinking immer an (gemessen vor dem Profil-Standard high, also mit Template-Standard max), mit MTP3 (laut Rezept) Quelle
1 Anfrage, Prosa-Prompt, mit MTP + DFlash2 (laut Rezept) Quelle
Prosa-Decode, 1 Request; Qualität (FP8-KV, 4-bit dense): GSM8K 98,8 % / HumanEval 95,7 % / HumanEval+ & MBPP+ 86,5 % Quelle
1 Anfrage, Prosa-Prompt, mit MTP + DFlash2 (laut Rezept) Quelle
1 Anfrage, Prosa-Prompt, mit DFlash2 (laut Rezept) Quelle
1 Anfrage, Prosa-Prompt, mit DFlash2, TR3-Gewichte (laut Rezept) Quelle
Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.
