Context Studios
KI Wissensdatenbank 2026

KI Glossar 2026

Präzise Definitionen für die Ära von Agentic AI und Spatial Intelligence.

Agentic Infrastructure

Observability (KI-Systeme)

LLM-Observability bezeichnet die systematische Überwachung, Nachverfolgung und Analyse von KI-Systemen und Sprachmodellen in der Produktion. Im Gegensatz zur klassischen Software-Observability (Logs, Metriken, Traces) adressiert LLM-Observability die spezifischen Herausforderungen von generativer KI: nichtdeterministisches Verhalten, komplexe Prompt-Ketten, Tool-Calls und Kosten pro Anfrage. Zu den Kernkomponenten gehören: LLM-Tracing (vollständige Nachverfolgung von Prompts, Antworten und Metadaten je Request mit Tokens, Latenz und Modell), Tool-Monitoring (bei Agentensystemen wie Model Context Protocol wird jeder Tool-Call mit Ein- und Ausgabe protokolliert), Kostenverfolgung (Token-Verbrauch und API-Kosten werden pro Request, User oder Feature aggregiert), Qualitätsbewertung (automatische oder manuelle Bewertung von Antwortqualität, Halluzinationsrate und Prompt-Adherence) sowie Alerting (Schwellenwerte für Latenz, Fehlerrate oder Kostenspitzen lösen Benachrichtigungen aus). Tools wie Langfuse aus Berlin oder Honeycomb haben sich als Standard für produktive LLM-Observability etabliert. Ohne Observability ist es unmöglich, Qualitätsprobleme, Sicherheitsvorfälle wie Prompt-Injection-Angriffe oder Kostentreiber in KI-Systemen zu identifizieren und zu beheben.

Konzept entdecken
Reasoning & Verlässlichkeit

Open-Weight-Modell

Ein Open-Weight-Modell ist ein KI-Modell, dessen trainierte Parameter – die Milliarden numerischer Gewichte, die das Wissen des Modells kodieren – öffentlich zum Download bereitstehen, ohne notwendigerweise den vollständigen Trainingscode, die Daten oder die Methodik offenzulegen. Open-Weight-Modelle nehmen eine Mittelposition ein: Sie sind zugänglicher als vollständig proprietäre Modelle wie OpenAI's GPT-4o oder Anthropic's Claude, die ausschließlich über API verfügbar sind, aber weniger transparent als vollständig quelloffene KI, bei der jede Komponente des Trainings nachvollziehbar ist. Bekannte Open-Weight-Modelle sind Metas Llama-Serie, Mistral AIs Mixtral, Googles Gemma und Zhipu AIs GLM-5. Die öffentliche Verfügbarkeit der Gewichte ermöglicht es Entwicklern und Unternehmen, Modelle herunterzuladen, selbst zu betreiben und für spezifische Domänen feinabzustimmen – ohne sensible Daten an externe APIs zu übertragen. Dies ist ein entscheidender Vorteil für Branchen mit strengen Datenschutzvorgaben wie Recht, Medizin und Finanzen. Open-Weight-Modelle haben eine Demokratisierung der KI-Fähigkeiten vorangetrieben: Organisationen können heute frontier-nahe Sprachmodelle auf eigenen GPU-Clustern betreiben und so die Kosten pro Token erheblich senken und Vendor-Lock-in vermeiden. Der Begriff unterscheidet sich von Open-Source-KI: Ein Modell kann seine Gewichte veröffentlichen, ohne Trainingsdaten oder Code offenzulegen. Lizenzen variieren stark – Llamas Community License schränkt die kommerzielle Nutzung ab 700 Millionen monatlich aktiver Nutzer ein, Mistrals Modelle nutzen Apache 2.0. Bei Context Studios evaluieren wir regelmäßig Open-Weight-Modelle für europäische Unternehmenskunden, bei denen DSGVO-konforme On-Premise-Inferenz API-basierten Cloud-Lösungen vorzuziehen ist.

Konzept entdecken