בעיה ההתאמה: למידת מכונה וערכים אנושיים

הערה: מועדון הספרים שלנו דורש מהמשתתפים לבצע את הקריאות המוקצות לפני המפגש. אנא הצטרפו אלינו לסדרת דיונים על ספרים מקוונת, “בעיה ההתאמה: למידת מכונה וערכים אנושיים” מאת בריאן קריסטיאן. קריאות המוקצה לשבוע זה: פרקים 7 ו-8. שימו לב: השלמת הקריאה המוקצת היא תנאי מוקדם להגעה למפגש. אם לא הספקתם לבצע את הקריאה, אנא הצטרפו אלינו בפעם אחרת. על מה הספר הזה? מערכות “למידת מכונה” של היום, האומנות בעזרת נתונים, כל כך יעילות עד שנזמנו אותן לראות ולשמוע בשמנו – ולקבל החלטות בשמנו. אך פעמוני האזעקה מצלצלים. בשנים האחרונות כמות הבעיות עלתה כששדה למידת המכונה מתפתח. כאשר המערכות שאנו מנסים ללמד לא יעשו, בסופו של דבר, מה שאנחנו רוצים או מה שאנו מצפים, עולות בעיות אתיות וסיכון קיומי פוטנציאלי. חוקרים מכנים זאת בעיית ההתאמה. מערכות מסננות קורות חיים עד, שנים לאחר מכן, אנו מגלים שיש להן הטיות מגדריות מולדות. אלגוריתמים קובעים שחרור בערבות ושחרור על תנאי - ומופיעים כאילו הם מעריכים נאשמים שחורים ולבנים בצורה שונה. אנו כבר לא יכולים להניח שהבקשה להלוואת משכנתא שלנו, או אפילו בדיקות רפואיות שלנו, ייראו על ידי עיניים אנושיות. וכשכלי רכב אוטונומיים חולקים את הרחובות שלנו, אנו שמים את ח nuestras חיינו בידיהם. המודלים המתמטיים והחישוביים שמניעים שינויים אלו משתנים במורכבותם, ממצב שניתן להתאים בגיליון אלקטרוני ועד למערכת מורכבת שיכולה להיקרא “אינטליגנציה מלאכותית” בכבוד. הם מחליפים בהדרגה הן את השיפוט האנושי והן את התוכנה המונחית במפורש. בסיפור המרתק של בריאן קריסטיאן, מחבר רבי מכר, אנו פוגשים את “הראשונים” של בעיית ההתאמה ולומדים על התוכנית השאפתנית שלהם לפתור אותה לפני שיהיה מאוחר מדי. בשילוב מעולה של היסטוריה ודיווחים מהשטח, קריסטיאן מתאר את הצמיחה המהירה בתחום למידת המכונה ומסתכל על הגבול הרחב שלה כיום. הקוראים פוגשים דיסציפלינה שמוצאת את עצמה על הרגליים בטריטוריה מרגשת ולפעמים מפחידה. האם הם - ואנחנו - נצליח או ניכשל בפתרון בעיית ההתאמה תהיה סיפור אנושי מוגדר. על המחבר קריסטיאן מחזיק בתארים במדעי המחשב, פילוסופיה ושירה מאוניברסיטת בראון ואוניברסיטת וושינגטון. כחוקר אורח באוניברסיטת קליפורניה, בברקלי, הוא מתגורר בסן פרנסיסקו. כתיבתו של קריסטיאן הופיעה ב-The New Yorker, The Atlantic, Wired, וב-The Wall Street Journal, כמו גם בכתבי עת שנבדקו על ידי עמיתים כמו Cognitive Science. הוא הופיע על The Daily Show ו-Radiolab, והעביר הרצאות ב-Google, Facebook, Microsoft, המכון של סנטה פה, ובית הספר לכלכלה בלונדון. עבודתו זכתה בפרסים רבים, כולל פרסום ב-Best American Science & Nature Writing, ותרגמה ל-19 שפות. איך עובד מועדון הספר הזה. דיון הספר שלנו יתפרס על פני מספר שבועות רצופים, עם מפגשי שעתיים בכל יום שלישי בערב. זה נותן לנו זמן לחקור את הקריאות עם העומק והדאגה שהם ראויים. אנא הביאו את השאלות והמחשבות המאתגרות שלכם מהקריאה לשתף עם הקבוצה. אנחנו אוהבים דיונים מלאי חיים שמאתגרים את רעיונותינו ואת רעיונותיו של המחבר ומאפשרים לנו ללמוד זה מזה - תוך כדי הנאה מחברות! כל מה שאנחנו מבקשים זה שכולם יתייחסו כאילו הם שווים, הן בכבוד והן בזמן דיבור משוער. אל תהססו לפרסם (בהערות למטה) כל משאב נוסף שתמצאו - כולל כאלה שמאתגרים את המחבר. אנו מקווים לראות אתכם במפגשי יום שלישי שלנו!