Seminario de Interpretabilidad Abierta: Maximilian Muschalik

Description

Título: IA Explicable Basada en Características: De la Atribución a la Interacción, De lo Estático a lo Dinámico Bio: Maximilian Muschalik completó recientemente su doctorado en Aprendizaje Automático e Inteligencia Artificial en la LMU de Múnich, supervisado por el Prof. Dr. Eyke Hüllermeier como parte del proyecto interdisciplinario TRR 318 "Construyendo Explicabilidad." Su investigación se centra en la IA explicable, con énfasis particular en los valores de Shapley, interacciones de Shapley y la explicación del cambio de modelo en entornos dinámicos. Es el creador y mantenedor de shapiq, un marco de Python ampliamente utilizado para atribución de características e interacciones, y su trabajo ha aparecido en importantes eventos de aprendizaje automático como NeurIPS, ICML, ICLR y otros. Resumen: La creciente complejidad de los modelos modernos de aprendizaje automático plantea desafíos significativos para su transparencia y responsabilidad. La inteligencia artificial explicable (XAI) busca hacer que los modelos de caja negra sean comprensibles para los usuarios humanos, y entre sus enfoques, los métodos de explicación basado en características juegan un papel central al relacionar la predicción de un modelo con sus entradas. Las técnicas de atribución, sobre todo los valores de Shapley, cuantifican la contribución de características individuales y están fundamentadas en bases teóricas sólidas. Sin embargo, con modelos de aprendizaje profundo avanzados como arquitecturas multimodales, las explicaciones limitadas a características individuales a menudo no logran capturar los complejos mecanismos que impulsan las predicciones, muchos de los cuales surgen de interacciones entre características. Las interacciones de Shapley generalizan el marco de atribución clásico a órdenes superiores, ofreciendo un intercambio flexible entre fidelidad y complejidad, pero su uso está limitado por severos desafíos computacionales. Al mismo tiempo, la mayoría de las técnicas XAI existentes asumen implícitamente modelos estáticos entrenados una vez con datos fijos. En muchos escenarios del mundo real, los datos llegan secuencialmente como flujos continuos y los modelos se entrenan de manera incremental, por lo que las explicaciones tradicionales se vuelven rápidamente obsoletas y desalineadas con el comportamiento actual del modelo. Por lo tanto, los métodos de explicación deben actualizarse junto con los modelos incrementales en entornos de flujos de datos. Esta charla cubre trabajos recientes que avanzan la explicabilidad basada en características en ambas dimensiones. La primera parte pasa de la atribución a la interacción, presentando SHAP-IQ para aproximar interacciones de Shapley de cualquier orden, junto con algoritmos específicos del modelo TreeSHAP-IQ y GraphSHAP-IQ que calculan interacciones de Shapley exactas al aprovechar propiedades estructurales de modelos basados en árboles y redes neuronales gráficas, todo consolidado en la biblioteca de software unificada shapiq. La segunda parte cambia de explicaciones estáticas a dinámicas, presentando iSAGE e iPDP, que mantienen de manera incremental puntuaciones de importancia global de características y estimaciones de efecto de características para modelos que funcionan en flujos de datos en evolución. Juntas, estas metodologías proporcionan tanto avances teóricos como herramientas prácticas para explicaciones basadas en características fieles, flexibles y eficientes, extendiendo el alcance de la XAI de la atribución a la interacción y de lo estático a lo dinámico.