KI-Vorfallreaktion (AI Incident Response)

KI-Vorfallreaktion ist der vorbereitete Prozess, mit dem ein Unternehmen Sicherheits-, Compliance- oder Qualitätsprobleme in produktiven KI-Systemen erkennt, eingrenzt, untersucht und behebt. Der Begriff baut auf klassischer Incident Response auf, muss aber zusätzliche Fragen beantworten: Welches Modell war beteiligt? Welche Prompts, Werkzeuge, Datenquellen und Berechtigungen hatte der Agent? Wurden sensible Informationen abgerufen, verändert oder nach außen gegeben? Ist das Verhalten reproduzierbar oder abhängig vom Kontextfenster, von Routingregeln oder von einem bestimmten Modellanbieter? Welche Daten dürfen für die Analyse genutzt werden? Eine gute KI-Vorfallreaktion verbindet technische Telemetrie, Prompt- und Tool-Protokolle, Zugriffskontrollen, Modellversionen, Eval-Ergebnisse und Kommunikationswege. Sie legt fest, wann Systeme pausiert, Zugänge gesperrt, Ersatzmodelle aktiviert, Kunden informiert oder externe Stellen eingebunden werden. Wichtig ist die Trennung zwischen Fehlerbehebung und Beweissicherung: Wer Logs überschreibt oder den Agenten blind weiterlaufen lässt, verliert genau die Informationen, die für Ursachenanalyse, Haftung und Wiederanlauf nötig sind. Damit wird KI-Vorfallreaktion zu einer Betriebsdisziplin für Teams, die Modelle und Agenten nicht nur testen, sondern zuverlässig im Unternehmen einsetzen.