Семинар по интерпретируемости: Максимилиан Мушалик

Description

Название: Объяснимая ИИ на основе признаков: от атрибуции к взаимодействию, от статического к динамическомуБиография: Максимилиан Мушалик недавно завершил свою докторскую диссертацию по машинному обучению и искусственному интеллекту в LMU Мюнхен под руководством профессора доктора Эйке Хюллермейера в рамках междисциплинарного проекта TRR 318 "Конструирование объяснимости". Его исследования сосредоточены на объяснимом ИИ, с особым акцентом на значения Шепли, взаимодействия Шепли и объяснение изменений модели в динамичных условиях. Он является создателем и куратором shapiq, широко используемой библиотеки Python для атрибуции признаков и взаимодействий, а его работы публиковались на ведущих конференциях по машинному обучению, таких как NeurIPS, ICML, ICLR и других.Аннотация:Увеличение сложности современных моделей машинного обучения создает значительные проблемы для их прозрачности и подотчетности. Объяснимая искусственная интеллигенция (XAI) стремится сделать черные ящики моделей понятными для пользователей, и среди ее подходов методы объяснения на основе признаков играют центральную роль, связывая прогноз модели с ее входными данными. Техники атрибуции, наиболее заметно значения Шепли, количественно определяют вклад отдельных признаков и основаны на прочных теоретических основах. Однако с развитием современных моделей глубокого обучения, таких как многомодные архитектуры, объяснения, ограниченные отдельными признаками, часто не способны охватить сложные механизмы, определяющие прогнозы, многие из которых возникают из взаимодействий между признаками. Взаимодействия Шепли обобщают классическую рамочную атрибуцию на более высокие порядки, предлагая гибкий баланс между верностью и сложностью, но их использование ограничивается серьезными вычислительными проблемами. В то же время, большинство существующих технологий XAI подразумевают статические модели, обученные один раз на фиксированных данных. Во многих реальных сценариях данные поступают последовательно в виде непрерывных потоков, и модели обучаются инкрементально, поэтому традиционные объяснения быстро устаревают и перестают соответствовать текущему поведению модели. Таким образом, методы объяснения должны обновляться одновременно с инкрементальными моделями в условиях потоков данных.Этот доклад охватывает недавние работы, которые продвигают объяснимость на основе признаков в обоих направлениях. Первая часть переходит от атрибуции к взаимодействию, представляя SHAP-IQ для аппроксимации взаимодействий Шепли любого порядка, вместе с моделями, специфичными для алгоритмов TreeSHAP-IQ и GraphSHAP-IQ, которые вычисляют точные взаимодействия Шепли, используя структурные свойства моделей на основе деревьев и графовых нейронных сетей, все это объединено в единой библиотеке программного обеспечения shapiq. Вторая часть переходит от статических к динамическим объяснениям, представляя iSAGE и iPDP, которые инкрементально поддерживают глобальные оценки важности признаков и оценки влияния признаков для моделей, работающих с развивающимися потоками данных. Вместе эти методы предоставляют как теоретические достижения, так и практические инструменты для верных, гибких и эффективных объяснений на основе признаков, расширяя область XAI от атрибуции к взаимодействию и от статических к динамическим.