Séminaire d'interprétabilité ouvert : Maximilian Muschalik

Description

Titre : IA explicable basée sur les caractéristiques : de l'attribution à l'interaction, du statique au dynamiqueBio : Maximilian Muschalik vient de terminer son doctorat en apprentissage automatique et intelligence artificielle à l'université LMU de Munich, supervisé par le Prof. Dr. Eyke Hüllermeier dans le cadre du projet interdisciplinaire TRR 318 "Construire l'explicabilité." Ses recherches se concentrent sur l'IA explicable, en mettant particulièrement l'accent sur les valeurs de Shapley, les interactions de Shapley et l'explication des changements de modèle dans des environnements dynamiques. Il est le créateur et le mainteneur de shapiq, un cadre Python largement utilisé pour l'attribution et l'interaction des caractéristiques, et ses travaux ont été publiés dans des revues d'apprentissage automatique de premier plan telles que NeurIPS, ICML, ICLR et d'autres.Résumé :La complexité croissante des modèles d'apprentissage automatique modernes pose des défis significatifs pour leur transparence et leur responsabilité. L'intelligence artificielle explicable (XAI) cherche à rendre les modèles en boîte noire compréhensibles pour les utilisateurs humains, et parmi ses approches, les méthodes d'explication basées sur les caractéristiques jouent un rôle central en reliant la prédiction d'un modèle à ses entrées. Les techniques d'attribution, les valeurs de Shapley étant les plus proéminentes, quantifient la contribution des caractéristiques individuelles et reposent sur des bases théoriques solides. Pourtant, avec des modèles d'apprentissage profond avancés tels que les architectures multimodales, les explications limitées à des caractéristiques uniques échouent souvent à capturer les mécanismes complexes qui sous-tendent les prédictions, dont beaucoup proviennent des interactions entre les caractéristiques. Les interactions de Shapley généralisent le cadre d'attribution classique à des ordres supérieurs, offrant un compromis flexible entre fidélité et complexité, mais leur utilisation est limitée par de sévères défis computationnels. Dans le même temps, la plupart des techniques XAI existantes supposent implicitement des modèles statiques entraînés une fois sur des données fixes. Dans de nombreux scénarios du monde réel, les données arrivent séquentiellement sous forme de flux continus et les modèles sont formés de manière incrémentale, de sorte que les explications traditionnelles deviennent rapidement obsolètes et désalignées du comportement actuel du modèle. Les méthodes d'explication doivent donc être mises à jour en parallèle avec les modèles incrémentaux dans des environnements de flux de données.Cette présentation couvre les travaux récents qui font progresser l'explicabilité basée sur les caractéristiques dans les deux dimensions. La première partie passe de l'attribution à l'interaction, introduisant SHAP-IQ pour approximer des interactions de Shapley de tout ordre, ainsi que des algorithmes spécifiques aux modèles TreeSHAP-IQ et GraphSHAP-IQ qui calculent des interactions de Shapley exactes en tirant parti des propriétés structurelles des modèles basés sur les arbres et des réseaux neuronaux graphiques, tous consolidés dans la bibliothèque logicielle unifiée shapiq. La deuxième partie passe d'explications statiques à dynamiques, présentant iSAGE et iPDP, qui maintiennent de manière incrémentale des scores d'importance des caractéristiques globaux et des estimations des effets des caractéristiques pour des modèles fonctionnant sur des flux de données en évolution. Ensemble, ces méthodes fournissent à la fois des avancées théoriques et des outils pratiques pour des explications basées sur les caractéristiques fidèles, flexibles et efficaces, étendant le champ de la XAI de l'attribution à l'interaction et du statique au dynamique.