Vergiftungsangriff (Poisoning)
Definition
Poisoning manipuliert Daten, um das Verhalten eines Modells zu beeinflussen.
Ein Angriff, der Trainings-, Anpassungs- oder Wissensdaten manipuliert, um Modellverhalten zu verschlechtern oder gezielt zu steuern.
Einfach erklärt
Jemand verändert absichtlich Lern- oder Wissensmaterial, damit das System später schlechter oder gezielt falsch reagiert.
Warum das im Alltag wichtig ist
Der Begriff hilft, KI-Systeme fundiert auszuwählen, zu entwickeln, zu bewerten und ihre technischen Risiken realistisch einzuordnen.
Beispiel aus dem Mittelstand
Manipulierte Trainingsbeispiele erzeugen eine versteckte Fehlklassifikation für ein bestimmtes Muster.
Grenzen und Fallstricke
- Jeden Datenfehler Angriff nennen oder Lieferkette und Integritätskontrollen nicht untersuchen.
Entstehung & Geschichte
Poisoning-Angriffe werden seit frühen adversarialen ML-Arbeiten systematisch untersucht.
Anwendung im Mittelstand
- Mögliche Anwendung: Manipulierte Trainingsbeispiele erzeugen eine versteckte Fehlklassifikation für ein bestimmtes Muster.
Häufige Fragen
Was bedeutet Vergiftungsangriff?
Ein Angriff, der Trainings-, Anpassungs- oder Wissensdaten manipuliert, um Modellverhalten zu verschlechtern oder gezielt zu steuern. Welche Fehler sollte man vermeiden? Jeden Datenfehler Angriff nennen oder Lieferkette und Integritätskontrollen nicht untersuchen.
Quellen
Quelle geprüft am 10.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: