Jailbreak-Resistenz
Definition
Jailbreak-Resistenz beschreibt, wie robust ein KI-System gegenüber Versuchen ist, seine Schutz- und Verhaltensgrenzen zu umgehen.
Die Aussagekraft eines Scores hängt vom definierten Bedrohungsmodell, Angriffssatz und untersuchten System ab. Zusätzlich sollten tatsächliche Auswirkungen auf Daten und Aktionen geprüft werden.
Einfach erklärt
Wie zu prüfen, wie schwer sich Sicherheitsregeln unter unterschiedlichen Angriffen umgehen lassen.
Warum das im Alltag wichtig ist
Relevant für Agenten und Assistenten mit sensiblen Daten, externen Aktionen oder öffentlichem Zugriff.
Beispiel aus dem Mittelstand
Ein System wird mit mehrsprachigen, verschleierten und mehrstufigen Jailbreaks getestet; gleichzeitig wird geprüft, ob Tools trotz Textangriff geschützt bleiben.
Grenzen und Fallstricke
- Eine einzelne Jailbreak-Benchmark als Sicherheitsbeweis nutzen; nur Modellantworten statt Toolfolgen messen; bekannte Testsets überoptimieren.
Entstehung & Geschichte
OWASP empfiehlt wiederkehrende adversariale Tests zur Prüfung von Vertrauensgrenzen und Zugriffskontrollen bei LLM-Anwendungen.
Anwendung im Mittelstand
- Mögliche Anwendung: Schutzmechanismen vor Freigabe und nach Änderungen wiederholt mit gezielten Angriffsversuchen prüfen und auffällige Fälle dokumentieren.
Häufige Fragen
Was bestimmt die Aussagekraft eines Jailbreak-Scores?
Bedrohungsmodell, Angriffssatz und untersuchtes System. Was sollte zusätzlich gemessen werden? Tatsächliche Auswirkungen auf Daten und Aktionen.
Quellen
- NIST AI 600-1 · NIST AI 600-1
- OWASP GenAI Security Project · OWASP GenAI Security Project
Quellen geprüft am 10.10.2026.
Redaktionell geprüft am: