Hardware

Qwen3.8-Flash-Next von RTX 3090 bis RTX PRO 6000: alle Messwerte nebeneinander. Warum die Sprünge nicht linear sind und Prefill die heimliche Belohnung ist.

Von „ich habe einen Rechner“ zu „mein Endpoint läuft“: Hardware ehrlich einordnen, Stack wählen, Use Case wiren, selbst messen — mit Rezepten für jede Stufe.

Anschaffung, Strom, Durchsatz und API-Gegenrechnung: bei Flash-Preisen ist lokal kein Sparprogramm — sondern ein Kontrolle-Programm. Alle Zahlen nachgerechnet.

Decode vs. Prefill, mean wall TPS, Quant-Fidelity: 4 Fallen bei Benchmark-Zahlen — und die 5-Minuten-Selbstmessung. Mit echten Messwerten aus 300 Community-Rezepten.

GLM-5.3-Flash, DeepSeek V4.1 Flash und Qwen3.8-Flash-Next im Überblick — und die ehrliche Hardware-Matrix: was läuft auf Laptop, Mac Studio, DGX Spark und Multi-GPU-Node?

Eine gebrauchte RTX 3090 decodiert Qwen-27B in Q4 mit 30–35 tok/s — und unser Cluster-Betrieb senkte die API-Kosten von 127,56 $/Tag auf 0 $/Tag. Alle Zahlen gegen den DGX Spark.

Der M5 Ultra ist die schnellste leise Einzelplatz-Maschine für große MoE-Modelle. Verifizierte Specs, Preise, Benchmarks, X-Community-Werte und unsere eigenen Messungen auf DGX-Spark-Hardware.

Welche Hardware bringt 2026 die meisten Tokens pro Euro? Vergleichstabelle, Tokens/s nach Modell und Hardware, unsere eigene DGX-Spark-Messung und Kosten pro Token gegenüber der Cloud.

Die drei Open-Weight-Flash-Modelle von August 2026 — Qwen 3.8 Flash Next, GLM 5.3 Flash und DeepSeek V4 Flash — sprengen die klassische 27B-Logik. Der sinnvolle Einstieg liegt bei 96 GB, das Arbeitspferd ist das 256-GB-Paket ab 10.999 Euro, und 512 GB kommt erst Ende Oktober. Wer unter 1 Million Tokens am Tag bewegt, fährt mit der API fast immer billiger als mit der Hardware.

Der Fork Deltafin streamt die 1,45 TB Expertengewichte von Kimi K3 (2,8T MoE) schichtweise von vier NVMe-SSDs ins 128-GB-RAM eines M5 Max: ~1 tok/s Decode, 6,3 Minuten bis zum ersten Token. Mit Mess-Tabelle, SSD-Staffel und einem kopierbaren Layer-Budget-Check in drei Schritten.

Das IST-DASLab liefert Qwen3.8-27B als GGUF in vier Größen — von 8,4 bis 11,8 GB. IQ3_S hält 99,8 % der Basisleistung bei 4,6-facher Verkleinerung und passt auf 16-GB-Karten. Mit Messtabelle, Token-Raten und Entscheidungsregel.

Qwen3.8-27B läuft auf erstaunlich viel Hardware – aber wie schnell wirklich? Baseline- vs. Community-getunte Benchmarks (Stand 19.08.2026): RTX 3090 mit ~1.000 tok/s bei 64 parallelen Streams, RTX 5090 mit 148 tok/s, DGX Spark mit 210 tok/s aggregiert, DFlash 2 mit 3,4x auf der H200 – dazu RTX 5080 Laptop, Mac mini, MacBook Pro, Mac Studio und AMD Strix Halo mit Prefill, Decode und Concurrency.