Kontextvergiftung (Context Poisoning)
Die Kurzantwort · 10 Wörter
Kurz erklärt
Einschleusen irreführender Informationen oder Anweisungen in den Arbeitskontext eines KI-Systems.
Flow-alerta.cab (2026): Kontextvergiftung (Context Poisoning). https://flow-alerta.cab/glossar/context-poisoning. Redaktionell geprüft am: 09. Oktober 2026.
Wie ausführlich soll es sein?
Praxis
Relevant für Agenten mit Zugriff auf externe Inhalte, gespeicherte Erinnerungen oder Geschäftssysteme.
Beispielszenario: Eine manipulierte Lieferantendatei behauptet, eine neue Bankverbindung sei bereits freigegeben.
Herkunft und Rechte prüfen, Aktionsbefugnisse begrenzen und kritische Änderungen gegen unabhängige Geschäftsdaten verifizieren.
Auf einen Blick
- Kern
- Angreifende manipulieren etwa Dokumente, Werkzeugantworten oder gespeicherte Notizen, die ein Agent später verwendet. Dadurch können Antworten oder Aktionen beeinflusst werden. Der Angriff auf Laufzeitkontext ist von der Vergiftung von Trainingsdaten zu unterscheiden und kann mit indirekter Prompt Injection zusammenwirken.
- Nutzen
- Relevant für Agenten mit Zugriff auf externe Inhalte, gespeicherte Erinnerungen oder Geschäftssysteme.
- Beispiel
- Beispielszenario: Eine manipulierte Lieferantendatei behauptet, eine neue Bankverbindung sei bereits freigegeben.
- Grenzen
- Abgerufene Inhalte als vertrauenswürdig ansehen; ungeprüfte Erinnerungen dauerhaft speichern; Schutz nur durch einen Warnsatz im Prompt erwarten.
Im Zusammenhang
Fragen, die dazu gestellt werden
Ist das Data Poisoning?
Nicht im engeren Trainingssinn.
Kann RAG betroffen sein?
Ja.
Reicht Filtern allein?
Nein.
Alle Details und Hintergründe
Angreifende manipulieren etwa Dokumente, Werkzeugantworten oder gespeicherte Notizen, die ein Agent später verwendet. Dadurch können Antworten oder Aktionen beeinflusst werden. Der Angriff auf Laufzeitkontext ist von der Vergiftung von Trainingsdaten zu unterscheiden und kann mit indirekter Prompt Injection zusammenwirken.
ELI5 – Einfach erklärt
Jemand legt gefälschte Notizen in die Arbeitsmappe, damit die nächste Entscheidung falsch ausfällt.
Warum das im Alltag wichtig ist
Relevant für Agenten mit Zugriff auf externe Inhalte, gespeicherte Erinnerungen oder Geschäftssysteme.
Beispiel
Beispielszenario: Eine manipulierte Lieferantendatei behauptet, eine neue Bankverbindung sei bereits freigegeben.
Fallstricke und Grenzen
- Abgerufene Inhalte als vertrauenswürdig ansehen; ungeprüfte Erinnerungen dauerhaft speichern; Schutz nur durch einen Warnsatz im Prompt erwarten.
Entstehung & Geschichte
Das Risiko wurde mit RAG und Agenten stärker sichtbar; OWASP beschreibt Context Poisoning als agentenspezifisches Angriffsmuster.
Anwendung im Mittelstand
- Herkunft und Rechte prüfen, Aktionsbefugnisse begrenzen und kritische Änderungen gegen unabhängige Geschäftsdaten verifizieren.
Verwandte Begriffe
- Prompt Injection
- RAG Poisoning
- Agent Memory
- Least Privilege
- Tool Poisoning
Passende Flow-alerta-Leistung
KI-Potenzialanalyse & FahrplanKI-Beratung – Vertrauensgrenzen und kontrollierte Werkzeugaktionen für Agenten entwerfen.Passendes Tool / Use Case
Praxisbeispiele ansehenUse Case: Prüfung importierter Dokumente und Agentennotizen vor geschäftlichen Aktionen.Quellen
- cheatsheetseries.owasp.orgOWASP, LLM Prompt Injection Prevention Cheat Sheet
Quellenprüfung: 09.10.2026. Definition und dokumentierte Einordnung abgeglichen; Beispiele beschreiben mögliche Anwendungen.
Redaktionell geprüft am: