Seminário de Interpretabilidade Aberta: Maximilian Muschalik

Description

Título: IA Explicável Baseada em Atributos: Da Atribuição à Interação, Do Estático ao DinâmicoBio: Maximilian Muschalik recentemente completou seu doutorado em Aprendizado de Máquina e Inteligência Artificial na LMU de Munique, supervisionado pelo Prof. Dr. Eyke Hüllermeier como parte do projeto interdisciplinar TRR 318 "Construindo Explicabilidade." Sua pesquisa foca em IA explicável, com ênfase particular em valores de Shapley, interações de Shapley e explicando a mudança de modelo em ambientes dinâmicos. Ele é o criador e mantenedor do shapiq, um framework Python amplamente utilizado para atribuição de recursos e interação, e seu trabalho foi publicado em importantes conferências de aprendizado de máquina como NeurIPS, ICML, ICLR e outras.Resumo:A crescente complexidade dos modelos modernos de aprendizado de máquina apresenta desafios significativos para sua transparência e responsabilidade. A inteligência artificial explicável (XAI) busca tornar modelos de caixa-preta compreensíveis para usuários humanos, e entre suas abordagens, os métodos de explicação baseados em atributos desempenham um papel central ao relacionar a previsão de um modelo de volta a seus insumos. As técnicas de atribuição, mais proeminentemente os valores de Shapley, quantificam a contribuição de características individuais e são fundamentadas em bases teóricas sólidas. No entanto, com modelos avançados de aprendizado profundo, como arquiteturas multimodais, explicações limitadas a características únicas frequentemente falham em capturar os mecanismos complexos que impulsionam as previsões, muitos dos quais surgem de interações entre características. As interações de Shapley generalizam a estrutura clássica de atribuição para ordens superiores, oferecendo um compromisso flexível entre fidelidade e complexidade, mas seu uso é limitado por sérios desafios computacionais. Ao mesmo tempo, a maioria das técnicas XAI existentes supõe implicitamente modelos estáticos treinados uma vez com dados fixos. Em muitos cenários do mundo real, os dados chegam sequencialmente como fluxos contínuos e os modelos são treinados de forma incremental, então explicações tradicionais rapidamente se tornam desatualizadas e desalinhadas com o comportamento atual do modelo. Portanto, os métodos de explicação devem atualizar-se juntamente com modelos incrementais em ambientes de fluxo de dados.Esta palestra cobre trabalhos recentes que avançam a explicabilidade baseada em atributos em ambas as dimensões. A primeira parte move-se da atribuição para a interação, introduzindo o SHAP-IQ para aproximar interações de Shapley de qualquer ordem, junto com algoritmos específicos para modelos TreeSHAP-IQ e GraphSHAP-IQ que computam interações de Shapley exatas aproveitando propriedades estruturais de modelos baseados em árvore e redes neurais gráficas, tudo consolidado na biblioteca de software unificada shapiq. A segunda parte muda de explicações estáticas para dinâmicas, apresentando iSAGE e iPDP, que mantêm de forma incremental pontuações de importância global de características e estimativas de efeito de características para modelos que operam em fluxos de dados em evolução. Juntas, essas metodologias fornecem avanços teóricos e ferramentas práticas para explicações baseadas em atributos fiéis, flexíveis e eficientes, ampliando o escopo da XAI de atribuição a interação e de estático a dinâmico.