Halluzination
Definition
Eine Halluzination ist eine plausibel klingende, aber unbelegte oder falsche KI-Aussage.
Das Erzeugen von plausibel klingenden, aber faktisch falschen, erfundenen oder unbelegten Aussagen durch ein KI-Modell.
Einfach erklärt
Wie eine überzeugend erzählte Antwort, für die der Beleg fehlt.
Warum das im Alltag wichtig ist
Hilft, Möglichkeiten, Qualität und Grenzen von KI-Systemen realistisch einzuordnen.
Beispiel aus dem Mittelstand
Mögliches Beispiel: Eine KI nennt eine Quelle; die Redaktion öffnet sie und stellt fest, dass die Aussage dort nicht steht.
Grenzen und Fallstricke
- Erfundene Quellen, Zahlen oder Rechtsaussagen ungeprüft veröffentlichen.
Entstehung & Geschichte
NIST führt falsche oder erfundene generative Ausgaben im Generative AI Profile von 2024 unter dem Risiko Confabulation auf. „Halluzination“ ist eine verbreitete Bezeichnung für solche Ausgaben.
Anwendung im Mittelstand
- Mögliche Anwendung im Mittelstand: Eine KI nennt eine Quelle; die Redaktion öffnet sie und stellt fest, dass die Aussage dort nicht steht.
Häufige Fragen
Was bedeutet Halluzination?
Eine Halluzination ist eine plausibel klingende, aber unbelegte oder falsche KI-Aussage.
Welche Fehler sind zu vermeiden?
Erfundene Quellen, Zahlen oder Rechtsaussagen ungeprüft veröffentlichen.
Quellen
- AI 600-1: Generative AI Profile; Risiko Confabulation · NIST (2024), AI 600-1: Generative AI Profile; Risiko Confabulation
Quellen geprüft am 09.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: