Prompt-Firewall
Definition
Eingaben an Sprachmodelle auf riskante Inhalte prüfen.
Eine Prompt-Firewall ist eine vorgeschaltete Prüfschicht, die verdächtige Eingaben anhand von Regeln oder Modellen erkennen und behandeln soll.
Einfach erklärt
Wie eine Eingangskontrolle, die bestimmte Auffälligkeiten prüft, aber nicht alles erkennen kann.
Warum das im Alltag wichtig ist
Sie kann Angriffsversuche sichtbar machen und riskante Anfragen begrenzen.
Beispiel aus dem Mittelstand
Ein fiktiver Assistent stoppt eine Eingabe, die zur Ausgabe interner Zugangsdaten auffordert.
Grenzen und Fallstricke
- Der Produktbegriff beschreibt keine vollständige Sicherheitsgarantie; Umgehungen und Fehlalarme bleiben möglich.
Entstehung & Geschichte
Die Bezeichnung überträgt das Firewall-Prinzip auf generative KI.
Anwendung im Mittelstand
- Mit Berechtigungsgrenzen, Protokollierung und kontrollierten Werkzeugaufrufen kombinieren.
Häufige Fragen
Reicht ein Filter allein?
Nein, die Anwendung braucht mehrere Schutzmaßnahmen.
Quellen
Redaktionell geprüft am: