Erklärbare KI (XAI)
Die Kurzantwort · 11 Wörter
Kurz erklärt
XAI umfasst Methoden, mit denen Menschen KI-Ergebnisse oder Modellverhalten nachvollziehen können.
Flow-alerta.cab (2026): Erklärbare KI (XAI). https://flow-alerta.cab/glossar/explainable-ai-xai. Redaktionell geprüft am: 10. Oktober 2026.
Wie ausführlich soll es sein?
Praxis
Erklärungen unterstützen Prüfung, Nutzung und Fehleranalyse, können jedoch selbst irreführend sein.
Hypothetisches Beispiel: Ein Wartungsmodell zeigt relevante Sensorsignale und vergleichbare Fälle für eine Priorisierung.
KMU sollten Erklärungstyp und Detailgrad an Entscheidung, Rolle und Risiko anpassen.
Auf einen Blick
- Kern
- Erklärungen können global oder lokal sein und Merkmale, Beispiele, Regeln oder Unsicherheit zeigen. Erklärung, Interpretierbarkeit und Transparenz sind verwandt, aber nicht identisch.
- Nutzen
- Erklärungen unterstützen Prüfung, Nutzung und Fehleranalyse, können jedoch selbst irreführend sein.
- Beispiel
- Hypothetisches Beispiel: Ein Wartungsmodell zeigt relevante Sensorsignale und vergleichbare Fälle für eine Priorisierung.
- Grenzen
- Plausible Erklärung mit wahrer Ursache verwechseln; Zielgruppe ignorieren; instabile Feature-Attributionen; Erklärung als Rechtsnachweis behandeln.
Im Zusammenhang
Fragen, die dazu gestellt werden
Ist jede Erklärung kausal?
Nein.
Reicht ein Diagramm?
Nur wenn Nutzer es richtig verstehen und prüfen können.
Alle Details und Hintergründe
Erklärungen können global oder lokal sein und Merkmale, Beispiele, Regeln oder Unsicherheit zeigen. Erklärung, Interpretierbarkeit und Transparenz sind verwandt, aber nicht identisch.
ELI5 – Einfach erklärt
Das System zeigt nicht nur ein Ergebnis, sondern verständliche Gründe und Grenzen.
Warum das im Alltag wichtig ist
Erklärungen unterstützen Prüfung, Nutzung und Fehleranalyse, können jedoch selbst irreführend sein.
Beispiel
Hypothetisches Beispiel: Ein Wartungsmodell zeigt relevante Sensorsignale und vergleichbare Fälle für eine Priorisierung.
Fallstricke und Grenzen
- Plausible Erklärung mit wahrer Ursache verwechseln; Zielgruppe ignorieren; instabile Feature-Attributionen; Erklärung als Rechtsnachweis behandeln.
Entstehung & Geschichte
XAI bündelt ältere Arbeiten zu interpretierbaren Modellen und gewann mit komplexen ML-Systemen stark an Bedeutung.
Anwendung im Mittelstand
- KMU sollten Erklärungstyp und Detailgrad an Entscheidung, Rolle und Risiko anpassen.
Verwandte Begriffe
- Interpretierbarkeit
- Transparenz
- Feature Importance
- Counterfactual
- AI Governance
Passende Flow-alerta-Leistung
KI-Potenzialanalyse & FahrplanKI-Beratung: Eignung, Daten und Voraussetzungen eines möglichen Anwendungsfalls zum Thema „Erklärbare KI (XAI)“ prüfen.Passendes Tool / Use Case
Praxisbeispiele ansehenUse Case: rollenbasierte Erklärungen mit Unsicherheit und EinspruchswegQuellen
Quellenprüfung: 10.10.2026. Definition und dokumentierte Einordnung abgeglichen; Beispiele beschreiben mögliche Anwendungen.
Redaktionell geprüft am: