Vergiftung einer RAG-Wissensbasis
Definition
RAG-Poisoning schleust manipulierte Inhalte in eine abrufbare Wissensbasis ein.
Ein Angriff, bei dem manipulierte Inhalte in eine abrufbare Wissensbasis oder deren Aufnahmepipeline gelangen, um Retrieval und nachgelagerte Antworten gezielt zu beeinflussen.
Einfach erklärt
Jemand verändert das Nachschlagewerk eines Assistenten, damit dessen spätere Antworten gezielt beeinflusst werden.
Warum das im Alltag wichtig ist
Der Begriff hilft, KI-Systeme fundiert auszuwählen, zu entwickeln, zu bewerten und ihre technischen Risiken realistisch einzuordnen.
Beispiel aus dem Mittelstand
Eine manipulierte interne Seite drängt bei bestimmten Fragen falsche Zahlungsdaten in den Kontext.
Grenzen und Fallstricke
- Jede falsche oder veraltete Quelle als Angriff bezeichnen, nur Modellgewichte schützen oder Herkunft, Freigaben, Änderungsüberwachung, Ranking und Zugriffsschutz der Wissensbasis vernachlässigen.
Entstehung & Geschichte
Der Angriff verbindet Data Poisoning mit retrievalgestützten Sprachmodellen und wurde mit deren Einsatz praktisch relevant.
Anwendung im Mittelstand
- Mögliche Anwendung: Eine manipulierte interne Seite drängt bei bestimmten Fragen falsche Zahlungsdaten in den Kontext.
Häufige Fragen
Was bedeutet Vergiftung einer RAG-Wissensbasis?
Ein Angriff, bei dem manipulierte Inhalte in eine abrufbare Wissensbasis oder deren Aufnahmepipeline gelangen, um Retrieval und nachgelagerte Antworten gezielt zu beeinflussen. Welche Fehler sollte man vermeiden? Jede falsche oder veraltete Quelle als Angriff bezeichnen, nur Modellgewichte schützen oder Herkunft, Freigaben, Änderungsüberwachung, Ranking und Zugriffsschutz der Wissensbasis vernachlässigen.
Quellen
Quelle geprüft am 10.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: