Halluzination (KI)

Eine KI-Halluzination bezeichnet das Phänomen, bei dem ein Sprachmodell (LLM) Informationen generiert, die faktisch falsch, erfunden oder nicht durch die Trainingsdaten belegbar sind — aber mit hoher Konfidenz und sprachlicher Überzeugungskraft präsentiert werden. Der Begriff ist eine Analogie zur menschlichen Halluzination: Das Modell 'sieht' etwas, das nicht existiert. Halluzinationen entstehen, weil LLMs keine Faktendatenbank abrufen, sondern wahrscheinlichkeitsbasiert Text generieren. Das Modell maximiert statistische Kohärenz, nicht Wahrheit. Typische Formen: erfundene Quellen und Zitate, falsche Datumsangaben, erfundene Personen oder Unternehmen, fehlerhafte Gesetzes- oder Produktangaben. Halluzinationen sind kein Bug, der sich vollständig eliminieren lässt — sie sind eine fundamentale Eigenschaft der aktuellen LLM-Architektur. Mitigation-Strategien umfassen: Retrieval-Augmented Generation (RAG), Grounding durch Datenbankabfragen, Self-Consistency Prompting, Fact-Checking-Pipelines und Human-in-the-Loop-Systeme. In Enterprise-Anwendungen ist die Halluzinationsrate ein kritischer Qualitätsmesswert, insbesondere in Branchen wie Recht, Medizin, Finanzen und Compliance, wo Fehlinformationen rechtliche oder wirtschaftliche Konsequenzen haben.