סמינר פתוח להסבריות: מקסימיליאן מושלק
Description
כותרת: בינה מלאכותית הסברתית מבוססת מאפיינים: מאטריבוציה לאינטראקציה, מסטטי לדינמיביוגרפיה: מקסימיליאן מושלק סיים לאחרונה את הדוקטורט שלו בלמידת מכונה ובינה מלאכותית ב-LMU מינכן, בפיקוחו של פרופ' דוקטור אייקה הילרמייר כחלק מפרויקט הבין-תחומי TRR 318 "בניית הבנה." המחקר שלו מתמקד בבינה מלאכותית הסברתית, עם דגש מיוחד על ערכי שייפלי, אינטראקציות שייפלי והסברת שינויים במודלים בסביבות דינמיות. הוא יצר ומתחזק את shapiq, מסגרת פייתון בשימוש רחב עבור אטריבוציה ואינטראקציה של מאפיינים, ועבודתו התפרסמה באירועים המובילים בתחום הלמידה המכונה כמו NeurIPS, ICML, ICLR ועוד.תקציר:המורכבות הגוברת של מודלים מודרניים בלמידת מכונה מציבה אתגרים משמעותיים לנראות ולאחריות שלהם. בינה מלאכותית הסברתית (XAI) שואפת להפוך מודלים של קופסה שחורה להבנה עבור משתמשי אנוש, ובין הגישות שלה, שיטות הסבר מבוססות מאפיינים ממלאות תפקיד מרכזי על ידי קישור התחזיות של המודל חזרה לקלטים שלו. טכניקות אטריבוציה, בולטות במיוחד ערכי שייפלי, quantif על התרומה של מאפיינים בודדים ונתמכות ביסודות תיאורטיים חזקים. עם זאת, עם מודלים מתקדמים של למידה עמוקה כמו ארכיטקטורות רב-מודליות, הסברים המוגבלים למאפיינים בודדים לעיתים קרובות אינם מצליחים ללכוד את המנגנונים המורכבים המניעים את התחזיות, רבים מהם נובעים מאינטראקציות בין מאפיינים. אינטראקציות שייפלי הכללות את מסגרת האטריבוציה הקלאסית לסדרים גבוהים יותר, ומציעות תמורה גמישה בין נאמנות למורכבות, אך השימוש בהן מוגבל על ידי אתגרים חישוביים חמורים. בו בזמן, רוב טכניקות ה-XAI הקיימות מניחות באופן משתמע מודלים סטטיים שהודרגו פעם אחת על נתונים קבועים. בתסריטים רבים מהעולם האמיתי, נתונים מגיעים בסדרות רצופות כזרמים מתמשכים ומודלים מוכנים באופן מדורג, כך שהסברים מסורתיים במהירות נעשים מיושנים ואינם תואמים להתנהגות הנוכחית של המודלים. לכן, שיטות הסבר חייבות לעדכן את עצמן יחד עם המודלים המדורגים בסביבות של זרם נתונים.בהרצאה זו נעסוק בעבודות האחרונות שמקדמות את ההסברתיות מבוססות המאפיינים בשני הממדים. החלק הראשון עובר מאטריבוציה לאינטראקציה, מציג את SHAP-IQ כדי לאמוד כל סדר של אינטראקציות שייפלי, יחד עם אלגוריתמים ספציפיים למודלים TreeSHAP-IQ ו-GraphSHAP-IQ שמחשב את אינטראקציות שייפלי מדויקות על ידי ניצול תכונות מבניות של מודלים מבוססי עצים ורשתות עצביות גרפיות, הכל מרוכז בספריה תוכנה מאוחדת shapiq. החלק השני עובר מהסברים סטטיים להסברים דינמיים, מציג את iSAGE ו-iPDP, ששומרים באופן מדורג על ציוני משמעות גלובליים של מאפיינים ואומדני השפעת מאפיינים עבור מודלים הפועלים על זרמים של נתונים מתפתחים. יחד, שיטות אלו מספקות הן התקדמות תיאורטית והן כלים מעשיים עבור הסברים מבוססי מאפיינים נאמנים, גמישים ויעילים, ומרחיבים את היקף XAI מאטריבוציה לאינטראקציה ומסטטיים לדינמיים.
Event location
Let your network know you're going
Share this event to start conversations, invite colleagues, and connect before it begins.