Offenlegung vertraulicher Prompts
Definition
Interne Anweisungen oder darin enthaltene Informationen werden sichtbar.
Prompt Leakage bezeichnet die unbeabsichtigte Offenlegung von Promptbestandteilen, beispielsweise internen Regeln oder dort fälschlich hinterlegten Geheimnissen.
Einfach erklärt
Ein interner Arbeitszettel wird nach außen vorgelesen.
Warum das im Alltag wichtig ist
Die Gefahr zeigt, warum Passwörter und Zugriffsentscheidungen nicht in Prompts gehören.
Beispiel aus dem Mittelstand
Ein fiktiver Chatbot gibt auf eine manipulierte Frage Teile seiner internen Anweisung aus.
Grenzen und Fallstricke
- System-Prompts sind kein sicherer Geheimnisspeicher und ersetzen keine Zugriffskontrolle.
Entstehung & Geschichte
Das Risiko ist im OWASP-Katalog für generative KI beschrieben.
Anwendung im Mittelstand
- Geheimnisse außerhalb von Prompts speichern und Berechtigungen technisch prüfen.
Häufige Fragen
Ist jeder sichtbare System-Prompt ein Datenleck?
Entscheidend sind Inhalt und mögliche Folgen.
Quellen
Redaktionell geprüft am: