DE
Gespräch buchen

Lokale KI · Rezept · 1× RTX 3090

Qwen3.8-Flash-Next 125B-A6B EXL3 2.50 bpw mit ExLlamaV3 auf 1× RTX 3090

von r0b0tlab

38,6tok/sGemischt

1 Anfrage, gemischtes Prompt-Set, mit MTP

Quelle: github.com
Intelligenz (Originalmodell) · Artificial Analysis40mit Denken

≤ 3 bit: Quantisierung kann Qualität kosten

Anleitung im README Repo

Engine

Engine
ExLlamaV3
Quantisierung
EXL3 2.50 bpw (41.5 GiB) + 3-bit n-gram Tabelle
Modellfamilie
Qwen3.8-Flash-Next
Kontext
262.144
Parameter
125B MoE / 6B active (lt. README)
Kreator
r0b0tlab
GitHub-Sterne
19
Repo-Stand
17. Sept. 2026

Messwerte

Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.

Für dieses Rezept sind keine Messwerte mit Quelle belegt.

Was brauche ich

Hardware
1 × NVIDIA RTX 3090
Engine
ExLlamaV3
Kontext
262.144 Token

Hinweise

Was vor dem Nachbauen wichtig ist.

  • ≤ 3 bit: Quantisierung kann Qualität kostenBei 3 bit und weniger kann das Modell spürbar schlechter antworten als das Original. Die Intelligenz-Zahl gilt für das Original.
  • Teils im Arbeitsspeicher
  • Lizenz ungeklärt

Quellen

Verwandte Rezepte

← Zur Übersicht

Lokale KI im eigenen Unternehmen?

Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.

Zum KI-WorkshopZur Übersicht