Prompt Injection über die Lieferkette
Definition
Manipulierte Zulieferinhalte beeinflussen eine KI-Anwendung.
Prompt Injection über die Lieferkette erreicht ein System über eingebrachte Komponenten oder Inhalte, etwa Vorlagen, Dokumente oder Werkzeugbeschreibungen.
Einfach erklärt
Eine fremde Lieferung enthält eine versteckte Anweisung für die nächste Arbeitsstation.
Warum das im Alltag wichtig ist
Auch vertrauenswürdig wirkende Integrationen können fremde Anweisungen weiterreichen.
Beispiel aus dem Mittelstand
Ein fiktiver Agent übernimmt eine manipulierte Werkzeugbeschreibung, die Daten an ein fremdes Ziel senden soll.
Grenzen und Fallstricke
- Signaturen oder Herkunft allein garantieren keine Unbedenklichkeit des Inhalts.
Entstehung & Geschichte
Der Ansatz verbindet indirekte Prompt Injection mit Risiken von Software- und Inhaltszulieferung.
Anwendung im Mittelstand
- Abhängigkeiten prüfen, Inhalte als Daten behandeln und Werkzeugrechte begrenzen.
Häufige Fragen
Muss der Angriff aus einem Nutzerchat kommen?
Nein, externe Inhalte können der Einstieg sein.
Quellen
Redaktionell geprüft am: