Jailbreak
Definition
Ein Jailbreak ist ein adversarial gestalteter Versuch, Sicherheits- oder Verhaltensgrenzen eines KI-Systems zu umgehen.
Angreifende können mit Eingaben darauf zielen, Schutzregeln zu umgehen, unerlaubte Inhalte zu erzeugen oder Aktionen auszulösen. Die Begriffe Jailbreak und Prompt Injection überschneiden sich; OWASP ordnet Jailbreaking als eine auf die Umgehung von Schutzregeln gerichtete Form von Prompt Injection ein.
Einfach erklärt
Wie zu versuchen, eine digitale Sicherheitsregel durch geschickte Formulierungen auszutricksen.
Warum das im Alltag wichtig ist
Relevant für öffentlich erreichbare KI-Assistenten und Agenten mit Tools oder Unternehmensdaten.
Beispiel aus dem Mittelstand
Ein Red-Team testet, ob ein Supportbot trotz Systemregeln vertrauliche interne Inhalte ausgibt.
Grenzen und Fallstricke
- Nur bekannte Jailbreak-Phrasen blockieren; Promptfilter mit vollständiger Sicherheit verwechseln; Toolrechte zu weit setzen.
Entstehung & Geschichte
NIST behandelt Prompt Injection und verwandte adversariale Angriffe im Generative-AI-Risikomanagement; die Sicherheitsforschung entwickelt fortlaufend neue Jailbreakmethoden.
Anwendung im Mittelstand
- Mögliche Anwendungen: Red-Teaming, Schutztests und Aufbau mehrschichtiger Kontrollen vor produktivem Einsatz.
Häufige Fragen
Wie grenzt OWASP Jailbreaking ein?
Als eine spezielle Form von Prompt Injection, die Schutzregeln umgeht. Die Begriffe überschneiden sich und werden je nach Taxonomie unterschiedlich abgegrenzt. Kann man alle Jailbreaks blockieren? Eine allgemeine Garantie besteht nicht.
Quellen
- Generative AI Profile · NIST AI 600-1, Generative AI Profile
- OWASP GenAI Security Project · OWASP GenAI Security Project
Quellen geprüft am 10.10.2026.
Redaktionell geprüft am: