Seminarium dotyczące Interpretowalności: Maximilian Muschalik

Description

Tytuł: Wyjaśnialna AI oparta na cechach: od atrybucji do interakcji, od statycznych do dynamicznychBiogram: Maximilian Muschalik niedawno ukończył doktorat z zakresu Uczenia Maszynowego i Sztucznej Inteligencji na LMU w Monachium, pod kierunkiem prof. dr. Eyke Hüllermeiera w ramach międzydziedzinowego projektu TRR 318 "Budowanie Wyjaśnialności". Jego badania koncentrują się na wyjaśnialnej AI, z szczególnym uwzględnieniem wartości Shapleya, interakcji Shapleya oraz wyjaśniania zmian modelu w dynamicznych środowiskach. Jest twórcą i konserwatorem shapiq, szeroko stosowanego frameworka Python do atrybucji cech i interakcji, a jego prace ukazały się na wiodących konferencjach zajmujących się uczeniem maszynowym, takich jak NeurIPS, ICML, ICLR i innych.Abstrakt:Rosnąca złożoność nowoczesnych modeli uczenia maszynowego stawia istotne wyzwania przed ich przejrzystością i odpowiedzialnością. Wyjaśnialna sztuczna inteligencja (XAI) dąży do tego, aby modele typu black-box były zrozumiałe dla użytkowników, a wśród jej podejść metody wyjaśniania oparte na cechach odgrywają centralną rolę, powiązując przewidywania modelu z jego wejściami. Techniki atrybucji, w szczególności wartości Shapleya, kwantyfikują wkład poszczególnych cech i są osadzone w solidnych podstawach teoretycznych. Jednak w przypadku zaawansowanych modeli uczenia głębokiego, takich jak architektury multimodalne, wyjaśnienia ograniczone do pojedynczych cech często nie oddają złożonych mechanizmów napędzających przewidywania, z których wiele wynika z interakcji między cechami. Interakcje Shapleya uogólniają klasyczny framework atrybucji do wyższych rzędów, oferując elastyczny kompromis między wiernością a złożonością, ale ich zastosowanie jest ograniczone przez poważne wyzwania obliczeniowe. Jednocześnie większość istniejących technik XAI zakłada statyczne modele, które są trenowane raz na stałych danych. W wielu scenariuszach rzeczywistych dane napływają sekwencyjnie jako ciągłe strumienie, a modele są trenowane inkrementalnie, dlatego tradycyjne wyjaśnienia szybko stają się przestarzałe i niezgodne z aktualnym zachowaniem modelu. Metody wyjaśniania muszą zatem aktualizować się w miarę postępu modeli inkrementalnych w środowiskach strumieni danych.Ten wykład omawia niedawne prace, które rozwijają wyjaśnialność opartą na cechach w obu wymiarach. Pierwsza część przechodzi od atrybucji do interakcji, wprowadzając SHAP-IQ do przybliżania interakcji Shapleya dowolnego rzędu, wraz z algorytmami specyficznymi dla modeli TreeSHAP-IQ i GraphSHAP-IQ, które obliczają dokładne interakcje Shapleya, wykorzystując właściwości strukturalne modeli opartych na drzewach i sieciach neuronowych grafowych, wszystko skonsolidowane w jednolitej bibliotece oprogramowania shapiq. Druga część przesuwa się od statycznych do dynamicznych wyjaśnień, prezentując iSAGE i iPDP, które inkrementalnie utrzymują globalne wyniki ważności cech i oszacowania efektu cech dla modeli działających na ewoluujących strumieniach danych. Razem te metody oferują zarówno postępy teoretyczne, jak i praktyczne narzędzia do wiernych, elastycznych i wydajnych wyjaśnień opartych na cechach, rozszerzając zakres XAI od atrybucji do interakcji i od statycznych do dynamicznych.