Interpretierbares maschinelles Lernen
Definition
Interpretierbares maschinelles Lernen macht relevante Zusammenhänge aus Modellen zugänglich.
Interpretierbares maschinelles Lernen nutzt Modelle, um relevantes Wissen über Zusammenhänge in Daten zu gewinnen. Welche Darstellung hilfreich ist, hängt auch von der Fragestellung und dem Publikum ab.
Einfach erklärt
Wie eine Karte, die bestimmte Wege einer Landschaft sichtbar macht. Die Karte ist nicht die Landschaft und eine anschauliche Darstellung erklärt nicht automatisch jede Modellentscheidung vollständig.
Warum das im Alltag wichtig ist
Vor einer Methodenauswahl sollten die fachliche Frage, die Zielgruppe und die verlangte Genauigkeit der Darstellung benannt werden.
Beispiel aus dem Mittelstand
Mögliches Beispiel: Ein Team untersucht, welche Eingangsmerkmale mit den Vorhersagen eines eigenen Testmodells zusammenhängen.
Grenzen und Fallstricke
- Ein beschriebener Zusammenhang ist noch kein Nachweis einer Ursache. Auch die Vorhersagegenauigkeit allein belegt nicht, dass eine Interpretation das Modell korrekt beschreibt.
Entstehung & Geschichte
Murdoch und Mitautoren ordneten 2019 modellbezogene und nachträgliche Interpretationsmethoden anhand von Vorhersagegenauigkeit, Beschreibungsgenauigkeit und Relevanz.
Anwendung im Mittelstand
- Denkbare Einsatzfelder sind die fachliche Untersuchung von Prognosemodellen und die Kommunikation ihrer Datenzusammenhänge im Team.
Häufige Fragen
Muss ein Modell von vornherein einfach aufgebaut sein?
Die Arbeit berücksichtigt sowohl modellbezogene als auch nachträgliche Methoden.
Beweist eine Interpretation Kausalität?
Nein, die Arbeit grenzt diese Aufgabe von kausaler Inferenz ab.
Quellen
- Interpretable machine learning: definitions, methods, and applications · Murdoch et al. (2019): Interpretable machine learning: definitions, methods, and applications
Redaktionell geprüft am: