(01)Was ist der Unterschied zwischen Open Source und Open Weights?
Open Weights bedeutet: Die trainierten Modellgewichte sind unter einer Nutzungslizenz herunterladbar — man kann das Modell selbst betreiben, feintunen und ausliefern. Open Source im strengen Sinn würde zusätzlich Trainingsdaten, Trainingscode und Tokenizer voraussetzen, was praktisch kein Modell auf Frontier-Größe offenlegt. Qwen3.5, GLM-5.2, gpt-oss, DeepSeek-V4, Gemma 4 und Mistral sind allesamt Open Weights; echte Open-Source-Modelle wie OLMo oder Pythia existieren vor allem im Forschungskontext. Die Begriffe synonym zu verwenden ist üblich, verdeckt aber die eigentliche Frage: Was erlaubt die Lizenz konkret?
(02)Welches ist das beste Open-Weight-LLM 2026?
Es gibt keinen einzelnen Sieger, aber einen verlässlichen Standard: Qwen3.5, weil Alibaba dieselbe Architektur von 0,8B bis 122B-A10B unter Apache 2.0 veröffentlicht — eine Familie deckt den Laptop-Prototyp und den Produktions-Cluster ab. Für Long-Horizon-Agenten und Coding ist GLM-5.2 (MIT, 1M Kontext) die stärkste selbst hostbare Option. Für maximale Leistung auf einer einzelnen GPU: gpt-oss-120b. Für Frontier-Reasoning bei einer Million Token: DeepSeek-V4. Nach Randbedingung wählen, nicht nach Leaderboard-Platz.
(03)Welche Hardware brauche ich für ein selbst gehostetes Open-Weight-LLM?
Die Spanne umfasst drei Größenordnungen. gpt-oss-20b (21B Parameter, 3,6B aktiv) läuft in 16 GB Speicher, also auf Workstation oder High-End-Laptop. gpt-oss-120b (117B, 5,1B aktiv) passt dank MXFP4-Quantisierung auf eine einzige 80-GB-GPU wie H100 oder MI300X. Mittelgroße MoE-Modelle wie Qwen3.5-122B-A10B oder Mistral Small 4 wollen typischerweise einen 8-GPU-Knoten. Riesen-MoEs wie DeepSeek-V4-Pro (1,6T) oder Kimi K2.7 Code (1T) brauchen einen echten Cluster — deshalb mieten die meisten Teams diese über einen Anbieter, statt sie selbst zu hosten.
(04)Sind Open-Weight-Modelle gut genug, um kommerzielle APIs zu ersetzen?
Für einen großen Teil der Produktions-Workloads ja — und ehrlicherweise ist das inzwischen eine Kosten-, Latenz- und Kontrollentscheidung, keine Fähigkeitslücke. Open-Weight-Modelle erledigen Klassifikation, Extraktion, Zusammenfassung, RAG und viel Routine-Codegenerierung in einer Qualität, die Endnutzer nicht von einer kommerziellen API unterscheiden. Die verbleibende Lücke zeigt sich beim schwersten Reasoning und bei langen agentischen Ketten. Die pragmatische Architektur ist hybrid: das Massenvolumen selbst hosten, den schweren Rest an eine Frontier-API routen und ein Gateway zwischen Anwendung und beides setzen.
(05)Darf ich Open-Weight-Modelle kommerziell nutzen?
Das hängt vollständig von der Lizenz ab, und die Lizenzen unterscheiden sich real. Apache 2.0 (Qwen3.5, gpt-oss-120b/20b, Gemma 4, Mistral Small 4 und Large 3) und MIT (GLM-5.2, DeepSeek-V4) erlauben kommerzielle Nutzung ohne Copyleft-Pflichten. Kimi K2.7 Code erscheint unter Modified MIT, MiniMax-M3 unter eigenen Anbieterbedingungen — beide sind im Regelfall kommerziell nutzbar, tragen aber Bedingungen, die man gelesen haben muss. Immer die LICENSE-Datei im tatsächlichen Repository öffnen, bevor ein Produkt auf ein Modell festgelegt wird.
(06)Warum ist Self-Hosting für DSGVO und EU-Datenresidenz relevant?
Weil Self-Hosting die Übermittlung komplett entfallen lässt. Laufen die Gewichte auf eigener Infrastruktur — in einer EU-Region, im eigenen Rechenzentrum oder vollständig air-gapped —, verlässt kein Prompt und kein Dokument den eigenen Rechtsraum. Aus einer komplexen Drittlandtransfer-Prüfung wird damit eine gewöhnliche interne Verarbeitungsfrage. Deshalb evaluieren regulierte DACH-Organisationen zunehmend zuerst Open-Weight-Modelle, und deshalb ist Mistrals europäische Herkunft plus Apache-2.0-Lizenz ein deutlich einfacheres Beschaffungsgespräch als eine US- oder China-gehostete API — unabhängig von Benchmark-Werten.
(07)Welchen Serving-Stack sollte ich für selbst gehostete Modelle nutzen?
Für Multi-GPU-Server sind vLLM und SGLang die beiden Standards — beide bieten Continuous Batching, PagedAttention-artiges KV-Cache-Management, Tensor-Parallelität und Speculative Decoding, und für beide liefern die Model Cards fertige Startbefehle. Für Laptops, Einzel-GPUs und Edge-Geräte sind Ollama und llama.cpp die praktische Wahl, mit GGUF-Quantisierungen für praktisch jedes Modell aus diesem Guide. Den Stack vor dem Modell wählen: Der ganze Vorteil von Open Weights ist, dass ein Familienwechsel eine Konfigurationsänderung sein sollte.
(08)Wie halte ich ein Open-Weight-Deployment aktuell, ohne jedes Quartal neu zu bauen?
Die drei Ebenen entkoppeln. Ein OpenAI-kompatibler Endpunkt (vLLM, SGLang oder ein Gateway wie LiteLLM) bleibt die stabile Schnittstelle, mit der die Anwendung spricht. Die eigene Eval-Suite gehört in die Versionsverwaltung, damit ein neuer Checkpoint in Stunden statt Wochen qualifiziert ist. Und mindestens zwei Modellfamilien sollten jederzeit qualifiziert sein. Die Release-Kadenz liegt 2026 bei grob einem Quartal pro Lab — Ziel ist also nicht, jedem Release hinterherzulaufen, sondern den Wechsel billig genug zu machen, um die relevanten mitzunehmen.
(09)Was ist mit den neuen Flash-Modellen (GLM-5.3-Flash, DeepSeek V4.1 Flash, Qwen3.8-Flash-Next)?
Sie sind nach dem Juli-Schnappschuss dieses Guides erschienen und werden ausführlich in unserem Begleitartikel „Aktuelle Open-Weight-LLMs & die Hardware, auf der sie laufen (September 2026)“ behandelt. Kurzfassung: GLM-5.3-Flash (320B MoE, ~18B aktiv, MIT) ist der stärkste Open-Weight-Coder der Flash-Klasse; DeepSeek V4.1 Flash (552B MoE, MIT) ist die Preis-Leistungs-Wahl; Qwen3.8-Flash-Next (125B + 51B n-gram, ~6B aktiv) ist der Vorschau-Checkpoint der Qwen4-Architektur. Die nativen FP8-Gewichte der ersten beiden brauchen einen 8-GPU-Knoten; Community-EXL3-Quants laufen auf 1–4 DGX Sparks mit dokumentierten Fidelity-Trade-offs.
(10)Ist dieser Guide nach den Veröffentlichungen von August/September 2026 noch aktuell?
Ja, für die etablierten Familien, die er rankt (Qwen3.5, GLM-5.2, gpt-oss, DeepSeek-V4, Gemma 4, Kimi K2.7, Mistral, MiniMax-M3) — keine davon wurde durch die Flash-Releases verdrängt; diese bilden eine neue Klasse unterhalb der Flaggschiffe, keinen Ersatz. Der Begleitartikel von September 2026 ordnet die neuen Modelle konkreten Hardware-Stufen zu, vom 16-GB-Laptop bis zum 8-GPU-Knoten, und die TLDR dieses Guides verlinkt dorthin. Wir verifizieren das Ranking quartalsweise.
