Erklärbarkeit
Definition
Erklärbarkeit beschreibt, wie nachvollziehbar die Gründe oder der Ablauf eines KI-Ergebnisses dargestellt werden können.
In der KI bezeichnet Erklärbarkeit die Möglichkeit, für ein Ergebnis eine für die Zielgruppe verständliche und zutreffende Erklärung bereitzustellen. Der NIST-Bericht zu erklärbarer KI unterscheidet Erklärungen, Verständlichkeit, Erklärungstreue und die Grenzen des Systems.
Einfach erklärt
Eine Berechnung wird nicht dadurch nachvollziehbar, dass sie einen beliebigen Kommentar erhält. Wie bei einer nachvollziehbaren Rechnung muss eine Erklärung zum tatsächlichen Vorgehen passen. Der Vergleich ersetzt keine technische Überprüfung.
Warum das im Alltag wichtig ist
Erklärbarkeit kann Teams helfen, Ergebnisse kritisch zu beurteilen. Je nach Zielgruppe sind andere Detailgrade erforderlich und eine Erklärung allein beweist keine Modellzuverlässigkeit.
Beispiel aus dem Mittelstand
Mögliches Beispiel: Ein Unternehmen lässt für ein Prognosemodell dokumentieren, welche Eingaben die Ausgabe beeinflussen, und prüft, ob diese Darstellung den Modellablauf zutreffend beschreibt.
Grenzen und Fallstricke
- Plausibel klingende Erklärungen können unzutreffend sein. Verständlichkeit, technische Treue, Datenqualität und rechtliche Anforderungen müssen getrennt geprüft werden.
Entstehung & Geschichte
Phillips und Mitautoren legten 2021 für NIST den Bericht „Four Principles of Explainable Artificial Intelligence“ vor und beschrieben Grundsätze zur Qualität von KI-Erklärungen.
Anwendung im Mittelstand
- Denkbare Einsatzfelder sind die Dokumentation von KI-Prognosen, die Gestaltung erklärender Nutzeroberflächen und die Bewertung von Transparenzanforderungen.
Häufige Fragen
Muss eine Erklärung nur leicht verständlich sein?
Nein. Sie soll auch den tatsächlichen Prozess zutreffend abbilden.
Macht Erklärbarkeit ein System automatisch fair?
Nein, Fairness ist gesondert zu bewerten.
Quellen
- Four Principles of Explainable Artificial Intelligence · Phillips et al. (2021): Four Principles of Explainable Artificial Intelligence
Quellen geprüft am 20.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: