Interpretierbarkeit
Definition
Interpretierbarkeit beschreibt, wie gut Menschen nachvollziehen können, wie ein Modell zu seinen Ausgaben kommt oder welche Beziehungen es gelernt hat.
Der Begriff ist nicht einheitlich auf eine einzige Metrik festgelegt. Je nach Ziel geht es um globale Modellstruktur, lokale Entscheidungen, Feature-Einflüsse oder verständliche Surrogatmodelle.
Einfach erklärt
Wie verstehen zu können, warum ein System so entscheidet – nicht nur, welches Ergebnis es ausgibt.
Warum das im Alltag wichtig ist
Relevant für Debugging, Vertrauen, Governance und risikoreiche Entscheidungen, aber eine Erklärung ist nicht automatisch korrekt oder kausal.
Beispiel aus dem Mittelstand
Ein Kreditrisikomodell wird global auf dominante Merkmale und lokal auf die Faktoren einer einzelnen Bewertung untersucht.
Grenzen und Fallstricke
- Interpretierbarkeit mit Kausalität verwechseln; hübsche Visualisierung als Beweis ansehen; Erklärungsmethode nicht validieren.
Entstehung & Geschichte
Lipton diskutierte 2016/2018 die unterschiedlichen Bedeutungen und Zielkonflikte des Begriffs „Interpretability“ in ML.
Anwendung im Mittelstand
- Mögliche Anwendungen: Modellprüfung, Fehleranalyse, fachliche Plausibilisierung und dokumentierte Entscheidungsunterstützung.
Häufige Fragen
Ist ein lineares Modell immer interpretierbar?
Oft leichter, aber Kontext und Feature-Engineering können die Deutung erschweren. Ist XAI dasselbe? XAI umfasst breitere Erklärverfahren.
Quellen
- The Mythos of Model Interpretability · Lipton, The Mythos of Model Interpretability
- Four Principles of Explainable AI · NIST, Four Principles of Explainable AI
Quellen geprüft am 10.10.2026.
Redaktionell geprüft am: