2× RTX 3090
kein belegter Tempowert
Intelligenzkein unabhängiger Wert
- Experimentell
Lokale KI · Rezept · 1× Strix Halo
Qwen3 30B-A3B UD-Q4_K_XL mit llama.cpp auf 1× Strix Halo
Qwen3 30B-A3B UD-Q4_K_XL mit llama.cpp auf 1× Strix Halo: 85,1 tok/s laut strixhalo.wiki (Datensatz-Stand: 3. Nov. 2026).
von deseven/lhl (strixhalo.wiki)
Engine
- Engine
- llama.cpp Build 2025 (nicht angegeben)
- Quantisierung
- GGUF UD-Q4_K_XL
- Modellfamilie
- Qwen3
- Kontext
- —
- Parameter
- 30B MoE / 3B active
- Kreator
- deseven/lhl (strixhalo.wiki)
- GitHub-Sterne
- 73
- Repo-Stand
- 31. Aug. 2026
Messwerte
Alle belegten Werte dieses Rezepts, je mit Bedingung und Quelle. Balken im Verhältnis zum größten Wert der Gruppe.
Decode · 1 Anfrage
Prefill je Kontext
Was brauche ich
- Hardware
- 1 × AMD Strix Halo
- Gewichte
- Hauptgewichtunsloth/Qwen3-30B-A3B-GGUF Apache-2.0
- Engine
- llama.cpp Build 2025 (nicht angegeben)
Verwandte Rezepte
1× Strix Halo
28,4tok/sAlltag
1 Anfrage, Prosa-Prompt, ohne Spekulation Quelle
Intelligenzkein unabhängiger Wert
- Lizenz ungeklärt
1× Strix Halo
41,3tok/sGemischt
1 Anfrage, gemischtes Prompt-Set, mit ndt=3 Quelle
Intelligenz40mit Denken
- Eigener Kernel nötig
- Lizenz ungeklärt
1× Strix Halo
70,2tok/sSpitze
1 Anfrage, synthetischer Prompt Quelle
Intelligenz18mit Denkenohne Denken 15
1× Strix Halo
16,3tok/sSpitze
1 Anfrage, Code-Prompt Quelle
Intelligenz34mit Denken
- ≤ 3 bit: Quantisierung kann Qualität kosten
Lokale KI im eigenen Unternehmen?
Im Workshop klären wir, welche Modelle und welche Hardware zu Ihren Aufgaben passen, und bauen den ersten Agenten auf Ihrer Infrastruktur.