Context Studios
KI Wissensdatenbank 2026

KI Glossar 2026

Präzise Definitionen für die Ära von Agentic AI und Spatial Intelligence.

KI-Sicherheit & Leitplanken

Red Teaming (KI-Sicherheitstests)

Red Teaming bezeichnet eine Methode, bei der ein Team von Experten absichtlich versucht, Schwachstellen, Fehler oder gefährliches Verhalten in einem KI-System aufzudecken – ähnlich wie ein Angreifer vorgehen würde. Der Begriff stammt aus der Militärplanung, wo ein Red Team die feindliche Seite simuliert, um die eigene Verteidigung zu testen. Im KI-Kontext umfasst Red Teaming systematische Angriffe auf ein Modell oder eine KI-Anwendung: Das Team versucht durch gezielte Prompts das Modell dazu zu bringen, schädliche Inhalte zu produzieren, Sicherheitsmechanismen zu umgehen oder vertrauliche Informationen preiszugeben. Diese Tests finden typischerweise vor dem öffentlichen Deployment eines KI-Systems statt. Führende KI-Unternehmen wie Anthropic setzen Red Teaming als Teil ihrer Sicherheitsevaluierungen ein, um Risikostufen zu identifizieren, bevor Modelle kommerziell eingesetzt werden. Regulatorische Rahmenwerke wie der EU AI Act empfehlen Red Teaming für Hochrisiko-KI-Systeme.

Konzept entdecken
EU & Compliance

Regulated Industry AI (KI in regulierten Branchen)

Regulated Industry AI bezeichnet den Einsatz von künstlicher Intelligenz in Branchen, in denen rechtliche, regulatorische oder prüfungsrelevante Anforderungen den Betrieb stark bestimmen. Dazu gehören zum Beispiel Finanzdienstleistungen, Gesundheitswesen, Versicherungen, Energie, öffentlicher Sektor und industrielle Lieferketten. Der Begriff beschreibt nicht nur ein Modell, sondern die gesamte Umgebung: Datenquellen, Zugriffsrechte, Protokollierung, Risikoanalyse, menschliche Freigaben, Audit-Trails und Nachweise gegenüber internen oder externen Prüfern. Eine KI-Lösung für regulierte Branchen muss deshalb anders gebaut werden als ein experimenteller Chatbot. Sie braucht klare Verantwortlichkeiten, nachvollziehbare Outputs, dokumentierte Entscheidungen und Kontrollen für Datenschutz, Sicherheit, Bias, Modellwechsel und Anbieterabhängigkeit. Besonders wichtig ist, dass Fachbereiche, Legal, IT-Security und Compliance früh eingebunden werden. So entsteht ein System, das produktiv helfen kann, ohne regulatorische Pflichten zu unterlaufen. In der Praxis geht es um belastbare Workflows: Welche Daten darf die KI sehen? Wer darf Ergebnisse verwenden? Wann braucht es menschliche Prüfung? Und wie wird nachgewiesen, was passiert ist? Gerade deshalb sollten Architektur, Prozessdesign und Verantwortlichkeiten gemeinsam geplant werden, bevor ein Modell in echte Entscheidungen eingebunden wird.

Konzept entdecken
KI-Sicherheit & Leitplanken

Responsible Scaling Policy (RSP)

Anthropics Responsible Scaling Policy (RSP) ist ein verbindliches internes Rahmenwerk, das festlegt, unter welchen Bedingungen das Unternehmen seine KI-Modelle weiterentwickeln und deployen darf. Kernstück sind die AI Safety Levels (ASL): abgestufte Fähigkeitsschwellen, ab denen definierte Sicherheitsmaßnahmen nachweislich erfüllt sein müssen, bevor ein leistungsstärkeres Modell entwickelt oder veröffentlicht wird. ASL-3-Modelle erfordern strikte Deployment-Kontrollen, ASL-4-Modelle können vollständig zurückgehalten werden, wenn die Sicherheitsbedingungen nicht erfüllt sind – so geschehen bei Claude Mythos Preview. Das RSP verbindet technische Forschung (Interpretierbarkeit, Red-Teaming, automatisierte Evaluierungen) mit operativen Governance-Strukturen. Für Unternehmen, die KI einkaufen oder einsetzen, ist das RSP eines Anbieters ein Transparenzsignal: Es zeigt, wie das Labor mit seinen fähigsten und potenziell gefährlichsten Modellen umgeht. Andere große Labore wie Google DeepMind und OpenAI haben ähnliche Frameworks entwickelt. Anthropic gilt als Pionier des öffentlich dokumentierten RSP-Ansatzes. Ein klares RSP signalisiert technische Reife und ernst gemeinte Sicherheitskultur.

Konzept entdecken