Integrierte Gradienten
Definition
Integrierte Gradienten ordnen einer Modellvorhersage Beiträge der Eingabemerkmale zu, indem sie Gradienten entlang der geraden Verbindung von einer gewählten Baseline zur Eingabe integrieren.
Die Methode berechnet Gradienten an Zwischenpunkten zwischen Referenz und tatsächlicher Eingabe. Das Ergebnis ordnet Features Attributionen zu und erfüllt die von den Autoren formulierten Axiome Sensitivity und Implementation Invariance.
Einfach erklärt
Wie Schritt für Schritt von einem gewählten Referenzpunkt zum echten Beispiel zu gehen und zu messen, welche Eingaben die Vorhersage verändern.
Warum das im Alltag wichtig ist
Relevant für die Analyse differenzierbarer Modelle, insbesondere bei Text-, Bild- und Tabellendaten.
Beispiel aus dem Mittelstand
Ein Klassifikationsmodell markiert, welche Eingabefelder den größten Beitrag zu einer Risikobewertung leisten.
Grenzen und Fallstricke
- Attribution mit Kausalität verwechseln; ungeeignete Baseline wählen; nur eine Erklärung betrachten; instabile Erklärungen nicht prüfen.
Entstehung & Geschichte
Sundararajan, Taly und Yan stellten Integrated Gradients 2017 als axiombasierte Attributionsmethode vor.
Anwendung im Mittelstand
- Mögliche Anwendung: Modell-Debugging, Plausibilitätsprüfung und unterstützende Erklärungen bei differenzierbaren Modellen.
Häufige Fragen
Zeigt IG Kausalität?
Nein. Warum ist die Baseline wichtig? Sie definiert den Referenzpunkt für die Attribution.
Quellen
- Axiomatic Attribution for Deep Networks · Sundararajan et al. (2017), Axiomatic Attribution for Deep Networks
- Volltext · Sundararajan et al., Volltext
Quellenprüfung: 10./11.10.2026.
Redaktionell geprüft am: