Forensik für KI-Agenten (AI Agent Forensics)

Forensik für KI-Agenten bezeichnet die systematische Rekonstruktion dessen, was ein KI-Agent vor, während und nach einem sicherheitsrelevanten Vorfall getan hat. Während klassische Log-Analyse vor allem Serverereignisse, Nutzeraktionen und Netzwerkspuren auswertet, muss Agenten-Forensik zusätzliche Ebenen sichern: Systemprompt, Nutzerauftrag, abgerufener Kontext, Modellversion, Werkzeugaufrufe, Berechtigungen, Zwischenergebnisse, Speicherzustand und externe Datenquellen. Ziel ist nicht nur die Frage, welches System betroffen war. Entscheidend ist, warum der Agent eine bestimmte Handlung für erlaubt, sinnvoll oder notwendig hielt. Gute Agenten-Forensik beginnt deshalb vor dem Vorfall. Traces müssen unveränderbar gespeichert, sensible Inhalte geschützt, Zeitstempel konsistent erfasst und Tool-Ergebnisse nachvollziehbar verknüpft werden. Nach einem Vorfall helfen diese Spuren, zwischen Prompt Injection, Fehlkonfiguration, zu breiten Rechten, Modellfehlern und menschlichen Fehlentscheidungen zu unterscheiden. Ohne diese Evidenz bleibt nur Spekulation: Teams können den Agenten abschalten, aber nicht belastbar erklären, was passiert ist. Forensik für KI-Agenten macht autonome Systeme prüfbar, auditierbar und verbesserbar. Sie schafft außerdem eine gemeinsame Faktenbasis für Sicherheits-, Rechts-, Produkt- und Engineering-Teams, wenn ein Agentenlauf später bewertet werden muss.