Open Interpretability Seminar: Maximilian Muschalik

Description

Titel: Kenbare AI op basis van Kenmerken: Van Toeschrijving naar Interactie, Van Statisch naar DynamischBio: Maximilian Muschalik heeft onlangs zijn PhD in Machine Learning en Kunstmatige Intelligentie aan de LMU München afgerond, onder supervisie van Prof. Dr. Eyke Hüllermeier als onderdeel van het interdisciplinaire TRR 318-project "Constructing Explainability." Zijn onderzoek richt zich op uitlegbare AI, met bijzondere nadruk op Shapley-waarden, Shapley-interacties en het uitleggen van modelverandering in dynamische omgevingen. Hij is de maker en onderhoudsbeheerder van shapiq, een veelgebruikt Python-framework voor kenmerktoeschrijving en interactie, en zijn werk is verschenen op toonaangevende machine learning-vensters zoals NeurIPS, ICML, ICLR en anderen.Abstract:De toenemende complexiteit van moderne machine learning-modellen vormt aanzienlijke uitdagingen voor hun transparantie en verantwoording. Uitlegbare kunstmatige intelligentie (XAI) probeert zwarte-doosmodellen begrijpelijk te maken voor menselijke gebruikers, en onder zijn benaderingen spelen op kenmerken gebaseerde uitlegmethoden een centrale rol door een modelvoorspelling terug te relateren aan zijn invoer. Toeschrijvingsstechnieken, zoals vooral Shapley-waarden, kwantificeren de bijdrage van individuele kenmerken en zijn gebaseerd op sterke theoretische fundamenten. Toch falen bij geavanceerde deep learning-modellen zoals multimodale architecturen, de uitleg die beperkt is tot enkele kenmerken vaak in het vastleggen van de complexe mechanismen die voorspellingen aandrijven, waarvan er veel voortkomen uit interacties tussen kenmerken. Shapley-interacties generaliseren het klassieke toeschrijvingskader naar hogere orden en bieden een flexibele afweging tussen trouw en complexiteit, maar hun gebruik wordt beperkt door ernstige computationele uitdagingen. Tegelijkertijd gaan de meeste bestaande XAI-technieken impliciet uit van statische modellen die eenmaal zijn getraind op vaste gegevens. In veel real-world scenario's komen gegevens sequentieel binnen als continue stromen en worden modellen incrementeel getraind, zodat traditionele uitleg snel verouderd en niet meer in lijn is met het huidige modelgedrag. Uitlegmethoden moeten daarom updates ontvangen naast incrementele modellen in gegevensstroomomgevingen.Deze lezing behandelt recent werk dat op beide dimensies de op kenmerken gebaseerde uitlegbaarheid verbetert. Het eerste deel beweegt van toeschrijving naar interactie, en introduceert SHAP-IQ voor het benaderen van Shapley-interacties van elke orde, samen met modelspecifieke algoritmen TreeSHAP-IQ en GraphSHAP-IQ die exacte Shapley-interacties berekenen door gebruik te maken van structurele eigenschappen van op bomen gebaseerde modellen en graf-neuronale netwerken, allemaal samengebracht in de verenigde softwarebibliotheek shapiq. Het tweede deel verschuift van statische naar dynamische uitleggen, en presenteert iSAGE en iPDP, die incrementeel mondiale belangscores voor kenmerken en effectschattingen voor kenmerken onderhouden voor modellen die werken op evoluerende gegevensstromen. Samen bieden deze methoden zowel theoretische vooruitgangen als praktische tools voor trouwe, flexibele en efficiënte op kenmerken gebaseerde uitleg, waarmee de reikwijdte van XAI wordt uitgebreid van toeschrijving naar interactie en van statisch naar dynamisch.