Warnsignal für Prompt-Injection-Angriffe
Definition
Ein künstlicher Marker warnt vor unerwünschter Verarbeitung.
Ein Prompt-Injection-Canary ist ein gezielt platzierter, unkritischer Marker, dessen unerwartetes Auftauchen auf eine verletzte Grenze oder Offenlegung hindeuten kann.
Einfach erklärt
Wie ein Testsiegel, dessen Bewegung zeigt, dass jemand an eine Stelle gelangt ist.
Warum das im Alltag wichtig ist
Solche Marker können Sicherheitstests und Beobachtung ergänzen.
Beispiel aus dem Mittelstand
Ein fiktiver Test prüft, ob ein interner Kunstbegriff trotz gegenteiliger Vorgabe in der Ausgabe erscheint.
Grenzen und Fallstricke
- Ein fehlender Marker beweist keine Sicherheit; echte Geheimnisse dürfen nicht als Testmarker dienen.
Entstehung & Geschichte
Die Bezeichnung greift das Canary-Prinzip aus Sicherheitsüberwachung und Tests auf.
Anwendung im Mittelstand
- Nur synthetische Marker verwenden und jeden Alarm mit dem tatsächlichen Ablauf abgleichen.
Häufige Fragen
Erkennt das jeden Angriff?
Nein, es ist ein begrenztes Warnsignal.
Quellen
- Begriffliche Einordnung; Risikogrundlage · Begriffliche Einordnung; Risikogrundlage
Redaktionell geprüft am: