AI Safety Case (KI-Sicherheitsnachweis)

Ein AI Safety Case ist ein strukturierter Nachweis, dass ein KI-System für einen klar beschriebenen Einsatzbereich ausreichend sicher betrieben werden kann. Er bündelt Annahmen, Risiken, Kontrollen, Tests und Betriebsgrenzen so, dass Fachbereich, Technik und Compliance dieselbe Sicherheitslogik prüfen können. Anders als eine allgemeine Richtlinie ist der Safety Case argumentativ aufgebaut: Welche Schäden sind relevant? Welche Schutzmaßnahmen verhindern oder begrenzen sie? Welche Evidenz zeigt, dass die Maßnahmen funktionieren? Bei agentischen Systemen gehören dazu etwa Berechtigungsgrenzen, Abschaltwege, Protokollierung, Red Teaming, menschliche Freigaben und definierte Eskalationspfade. Wichtig ist auch der Geltungsbereich. Ein Safety Case gilt nicht abstrakt für „das Modell“, sondern für eine konkrete Anwendung, Version, Datenbasis, Werkzeugschnittstellen und Betriebsumgebung. Sobald sich Modell, Workflows oder Risikoprofil ändern, muss der Nachweis überprüft werden. Für Unternehmen wird der Begriff relevant, weil KI-Sicherheit zunehmend beweisbar werden muss: nicht nur „wir testen“, sondern „wir können zeigen, warum dieses System unter diesen Bedingungen verantwortbar ist“. Dadurch wird Sicherheit zu einer prüfbaren Führungsentscheidung.