Семінар з відкритої інтерпретованості: Максиміліан Мушалик

Description

Назва: Пояснювальний ШІ на основі характеристик: від атрибуції до взаємодії, від статичних до динамічнихБіографія: Максиміліан Мушалик нещодавно завершив докторську дисертацію в області машинного навчання та штучного інтелекту в LMU Мюнхен, під наглядом проф. д-ра Ейке Хюллермейера в рамках міждисциплінарного проекту TRR 318 "Конструювання пояснювальності". Його дослідження зосереджені на пояснювальному ШІ, з особливим акцентом на значеннях Шеплі, взаємодіях Шеплі та поясненні змін моделі в динамічних середовищах. Він є творцем та керівником shapiq, широко використовуваного Python-фреймворку для атрибуції характеристик і взаємодії, а його роботи з'являлися на провідних форумах машинного навчання, таких як NeurIPS, ICML, ICLR та інших.Анотація:Зростаюча складність сучасних моделей машинного навчання ставить серйозні виклики для їхньої прозорості та підзвітності. Пояснювальний штучний інтелект (XAI) прагне зробити чорні ящики моделей зрозумілими для людських користувачів, і серед його підходів методи пояснення на основі характеристик відіграють центральну роль, повертаючи прогноз моделі до її вхідних даних. Техніки атрибуції, зокрема значення Шеплі, кількісно визначають внесок окремих характеристик і грунтуються на міцних теоретичних основах. Однак із запровадженням передових моделей глибокого навчання, таких як мультимодальні архітектури, пояснення, обмежені однією характеристикою, часто не можуть охопити складні механізми, які керують прогнозами, багато з яких виникають внаслідок взаємодій між характеристиками. Взаємодії Шеплі узагальнюють класичну рамках атрибуції до вищих порядків, пропонуючи гнучкий компроміс між вірністю та складністю, але їх використання обмежується серйозними обчислювальними викликами. Водночас, більшість існуючих технік XAI імпліцитно припускають статичні моделі, навчені один раз на фіксованих даних. У багатьох реальних сценаріях дані надходять послідовно як безперервні потоки, і моделі навчаються поступово, тому традиційні пояснення швидко стають застарілими та некоректними щодо поточної поведінки моделей. Тому методи пояснення повинні оновлюватися разом з поступовими моделями в середовищах потоків даних.Цей виступ охоплює недавні дослідження, які просувають пояснювальність на основі характеристик в обох вимірах. Перша частина переходить від атрибуції до взаємодії, представляючи SHAP-IQ для апроксимації взаємодій Шеплі будь-якого порядку, разом з моделями, специфічними для алгоритмів TreeSHAP-IQ та GraphSHAP-IQ, які обчислюють точні взаємодії Шеплі, використовуючи структурні властивості деревоподібних моделей та графових нейронних мереж, все це об'єднується в єдиній бібліотеці програмного забезпечення shapiq. Друга частина переходить від статичних до динамічних пояснень, представляючи iSAGE та iPDP, які поступово підтримують глобальні оцінки важливості характеристик і оцінки ефекту характеристик для моделей, що працюють над еволюційними потоками даних. Разом ці методи забезпечують як теоретичні досягнення, так і практичні інструменти для вірних, гнучких і ефективних пояснень на основі характеристик, розширюючи обсяг XAI від атрибуції до взаємодії та від статичних до динамічних.