KI-Backdoor-Angriff (AI Backdoor Attack)

Ein KI-Backdoor-Angriff ist eine absichtlich eingebaute, versteckte Verhaltensweise in einem KI-System. Das System wirkt im normalen Betrieb zuverlässig, reagiert aber auf bestimmte Auslöser anders: ein spezieller Prompt, eine Datei, ein Tokenmuster, ein manipuliertes Modellgewicht, eine kompromittierte Abhängigkeit oder ein bestimmter Codepfad. Bei Sprachmodellen kann die Backdoor unerwünschte Antworten erzwingen; bei Coding-Agenten kann sie unsicheren Code erzeugen, Prüfungen umgehen oder vertrauliche Daten an ein Werkzeug weiterreichen. Wichtig ist die Abgrenzung: Prompt Injection nutzt offen gelieferte Eingaben, ein Supply-Chain-Angriff kompromittiert eine vorgelagerte Komponente. Eine Backdoor ist die versteckte Funktion selbst. Sie kann durch vergiftete Trainingsdaten, manipulierte Fine-Tunes, unsichere Modellgewichte, präparierte Erweiterungen oder einen bösartigen SDK-Release entstehen. Deshalb reichen reine Funktionstests nicht aus; Teams brauchen Provenienz, reproduzierbare Builds, unabhängige Sicherheitsprüfungen und klare Grenzen für Werkzeuge und Berechtigungen. Für Unternehmen zählt vor allem die Nachweisbarkeit. Wer KI-Agenten produktiv einsetzt, muss erklären können, welche Modelle, Pakete und Tools laufen und wie verdächtiges Verhalten isoliert wird. Wir behandeln Backdoor-Risiken als praktisches Engineering-Thema, nicht als abstrakte Angst: saubere Herkunft, kleine Berechtigungen, getestete Updates und prüfbare Rollbacks.