Kurz-Fakten
- Zwei Wege: von sich aus verständliche Modelle oder nachträgliche Erklärung
- Verbreitete Verfahren: SHAP, LIME, Merkmalswichtigkeit
- Erklärungen sind Näherungen, keine Protokolle
- Bei Entscheidungen über Personen können Erklärpflichten bestehen
Bedeutung in der Praxis
Wo Nachvollziehbarkeit rechtlich verlangt ist, lohnt die Prüfung, ob ein einfacheres Modell ausreicht. Ein Entscheidungsbaum, der zwei Prozent schlechter ist und sich vorlesen lässt, ist im Zweifel die bessere Wahl.