Jailbreaking
Definition
Jailbreaking versucht, Sicherheitsgrenzen eines Sprachmodells durch Eingaben zu umgehen.
Jailbreaking bezeichnet im hier betrachteten Sprachmodell-Kontext Angriffe, die ein sicherheitsabgestimmtes Modell zu unerwünschten Ausgaben bringen sollen. Die Forschung untersucht unter anderem Konflikte zwischen erlernten Zielen und Grenzen ihrer Verallgemeinerung.
Einfach erklärt
Wie der Versuch, eine Einlasskontrolle mit widersprüchlichen Anweisungen zu überlisten. Ein Modell hat jedoch kein menschliches Regelverständnis; sein Verhalten entsteht aus erlernten Mustern.
Warum das im Alltag wichtig ist
Bei einer Einführung sollten erlaubte Aufgaben, unerwünschte Ausgaben und die unabhängige Bewertung von Sicherheitstests getrennt dokumentiert werden.
Beispiel aus dem Mittelstand
Mögliches Beispiel: Ein autorisiertes Testteam prüft in einer abgeschirmten Umgebung, ob ein Assistent die festgelegten Sicherheitsgrenzen einhält.
Grenzen und Fallstricke
- Ein bestandener Satz bekannter Tests beweist keine allgemeine Widerstandsfähigkeit. Die zitierte Arbeit erklärt, warum frühere Angriffstests weitere Fehler nicht ausschließen.
Entstehung & Geschichte
Wei und Mitautoren analysierten 2023 grundlegende Fehlermuster der Sicherheitsabstimmung von Sprachmodellen.
Anwendung im Mittelstand
- Denkbare Einsatzfelder sind die Erprobung interner Assistenten und die Vorbereitung ihrer Einführung, jeweils mit autorisiertem Testumfang und Befundprotokoll.
Häufige Fragen
Ist damit ein Geräteumbau gemeint?
Hier geht es ausschließlich um die Umgehung von Sprachmodell-Sicherheitsgrenzen.
Reichen bekannte Angriffstests als vollständiger Nachweis?
Nein, die Arbeit beschreibt Grenzen der Übertragbarkeit solcher Tests.
Quellen
- Jailbroken: How Does LLM Safety Training Fail? · Wei et al. (2023): Jailbroken: How Does LLM Safety Training Fail?
Redaktionell geprüft am: