Self Hosting

Mistral Large 4: 1,05 Billionen Parameter, 52 Mrd. aktiv pro Token. Wir haben den 4×-DGX-Spark-Cluster gemessen — 23,0 tok/s, 42,2 im Aggregat, 0,553 €/1M Output-Tokens.

Qwen3.8-Flash-Next von RTX 3090 bis RTX PRO 6000: alle Messwerte nebeneinander. Warum die Sprünge nicht linear sind und Prefill die heimliche Belohnung ist.

Von „ich habe einen Rechner“ zu „mein Endpoint läuft“: Hardware ehrlich einordnen, Stack wählen, Use Case wiren, selbst messen — mit Rezepten für jede Stufe.

Anschaffung, Strom, Durchsatz und API-Gegenrechnung: bei Flash-Preisen ist lokal kein Sparprogramm — sondern ein Kontrolle-Programm. Alle Zahlen nachgerechnet.

Decode vs. Prefill, mean wall TPS, Quant-Fidelity: 4 Fallen bei Benchmark-Zahlen — und die 5-Minuten-Selbstmessung. Mit echten Messwerten aus 300 Community-Rezepten.

GLM-5.3-Flash, DeepSeek V4.1 Flash und Qwen3.8-Flash-Next im Überblick — und die ehrliche Hardware-Matrix: was läuft auf Laptop, Mac Studio, DGX Spark und Multi-GPU-Node?

KI-Videopipeline komplett selbst hosten: MiniMax-H3 auf der DGX Spark, deutscher Voice-Clone, Lip-Sync im Praxistest. Alle Messwerte, Settings und Fehlschläge.

NVIDIA übernimmt Hugging Face für 12,93 Mrd. US-Dollar. Was bestätigt ist, was NVIDIA zusagt und die vier Schritte, mit denen deine Modell-Lieferkette unabhängig bleibt.

Ein virales Video sperrte das nächste KI-Modell für alle. Open-Weight-KI-Modelle sind Ihre echte Versicherung gegen Anbieterabhängigkeit – 2026 liefern sie.