Offenes Interpretierbarkeitsseminar: Maximilian Muschalik

Description

Titel: Merkmalsbasierte erklärbare KI: Von Attribution zu Interaktion, von statisch zu dynamischBiografie: Maximilian Muschalik hat kürzlich seine Promotion in Maschinellem Lernen und Künstlicher Intelligenz an der LMU München abgeschlossen, betreut von Prof. Dr. Eyke Hüllermeier im Rahmen des interdisziplinären TRR 318 Projekts "Erklärungsgestaltung." Seine Forschung konzentriert sich auf erklärbare KI, mit besonderem Schwerpunkt auf Shapley-Werten, Shapley-Interaktionen und der Erklärung von Modelländerungen in dynamischen Umgebungen. Er ist der Schöpfer und Entwickler von shapiq, einem weit verbreiteten Python-Framework für Merkmalsattribution und -interaktion, und seine Arbeiten sind an führenden Veranstaltungen im Bereich Maschinelles Lernen wie NeurIPS, ICML, ICLR und anderen veröffentlicht worden.Zusammenfassung:Die zunehmende Komplexität moderner Modelle des maschinellen Lernens stellt erhebliche Herausforderungen für deren Transparenz und Verantwortlichkeit dar. Erklärbare künstliche Intelligenz (XAI) versucht, Black-Box-Modelle für menschliche Benutzer verständlich zu machen, und unter ihren Ansätzen spielen merkmalsbasierte Erklärungsmethoden eine zentrale Rolle, indem sie die Vorhersage eines Modells mit seinen Eingaben in Beziehung setzen. Attributionstechniken, allen voran Shapley-Werte, quantifizieren den Beitrag einzelner Merkmale und basieren auf starken theoretischen Grundlagen. Dennoch scheitern Erklärungen, die auf einzelnen Merkmalen basieren, oft daran, die komplexen Mechanismen, die Vorhersagen antreiben - von denen viele aus Interaktionen zwischen Merkmalen entstehen - zu erfassen, wenn fortgeschrittene Deep-Learning-Modelle wie multimodale Architekturen verwendet werden. Shapley-Interaktionen generalisieren den klassischen Attributionsrahmen auf höhere Ordner, bieten einen flexiblen Kompromiss zwischen Treue und Komplexität, doch ihre Anwendung wird durch gravierende rechnerische Herausforderungen eingeschränkt. Gleichzeitig gehen die meisten bestehenden XAI-Techniken implizit davon aus, dass statische Modelle einmal auf festen Daten trainiert werden. In vielen realen Szenarien treffen Daten sequenziell als kontinuierliche Ströme ein und Modelle werden inkrementell trainiert, sodass traditionelle Erklärungen schnell veraltet sind und nicht mehr mit dem Verhalten des aktuellen Modells übereinstimmen. Erklärungsmethoden müssen daher zusammen mit inkrementellen Modellen in Datenstromumgebungen aktualisiert werden.Dieser Vortrag behandelt aktuelle Arbeiten, die die merkmalsbasierte Erklärbarkeit in beiden Dimensionen voranbringen. Der erste Teil wechselt von Attribution zu Interaktion, indem SHAP-IQ vorgestellt wird, um Shapley-Interaktionen beliebiger Ordnung zu approximieren, zusammen mit modellen-spezifischen Algorithmen TreeSHAP-IQ und GraphSHAP-IQ, die exakte Shapley-Interaktionen berechnen, indem sie strukturelle Eigenschaften von baumbasierten Modellen und grafischen neuronalen Netzwerken nutzen, die alle in der einheitlichen Softwarebibliothek shapiq konsolidiert sind. Der zweite Teil bewegt sich von statischen zu dynamischen Erklärungen und präsentiert iSAGE und iPDP, die globalen Merkmalswichtigkeitswerte und Merkmalswirkungsschätzungen für Modelle, die auf sich entwickelnden Datenströmen arbeiten, inkrementell aufrechterhalten. Zusammen bieten diese Methoden sowohl theoretische Fortschritte als auch praktische Werkzeuge für treue, flexible und effiziente merkmalsbasierte Erklärungen und erweitern den Anwendungsbereich von XAI von Attribution zu Interaktion und von statisch zu dynamisch.