Het Afstemprobleem: Machine Learning en Menselijke Waarden

Opmerking: Onze boekclub vereist dat deelnemers de toegewezen leesstof voor de bijeenkomst doornemen. Sluit je bij ons aan voor onze online boekclubdiscussieserie over, “Het Afstemprobleem: Machine Learning en Menselijke Waarden” door Brian Christian. Toegewezen leesstof voor deze week: Hoofdstukken 7 en 8. Let op: Voltooiing van de toegewezen leesstof is een vereiste voor deelname. Als je geen kans hebt om de leesstof door te nemen, kom dan gerust een andere keer. Waar gaat dit boek over? De hedendaagse “machine-learning” systemen, getraind met data, zijn zo effectief dat we ze hebben uitgenodigd om voor ons te zien en te horen―en om beslissingen namens ons te nemen. Maar de alarmbellen klinken. De afgelopen jaren is er een explosie van bezorgdheid geweest nu het veld van machine learning zich verder ontwikkelt. Wanneer de systemen die we proberen te onderwijzen uiteindelijk niet doen wat we willen of verwachten, ontstaan ethische en potentieel existentiële risico's. Onderzoekers noemen dit het afstemprobleem. Systemen selecteren cv's totdat we jaren later ontdekken dat ze inherente gendervooroordelen hebben. Algoritmes bepalen borg en voorwaardelijke vrijlating―en lijken Black en White verdachten verschillend te beoordelen. We kunnen niet langer aannemen dat onze hypotheekaanvraag, of zelfs onze medische tests, door menselijke ogen zullen worden bekeken. En terwijl autonome voertuigen onze straten delen, leggen we ons leven steeds meer in hun handen. De wiskundige en computationele modellen die deze veranderingen aandrijven variëren in complexiteit van iets dat op een spreadsheet past tot een complex systeem dat geloofwaardig “kunstmatige intelligentie” kan worden genoemd. Ze vervangen gestaag zowel menselijk oordeel als expliciet geprogrammeerde software. In de meeslepende vertelling van bestsellerauteur Brian Christian ontmoeten we de “eerste hulpverleners” van het afstemprobleem en leren we hun ambitieuze plan om het op te lossen voordat onze handen helemaal van het stuur zijn. In een meesterlijke mix van geschiedenis en verslaggeving ter plaatse traceert Christian de explosieve groei van het veld van machine learning en verkent hij de huidige, uitgestrekte grens. Lezers ontmoeten een discipline die zijn beenruimte vindt temidden van opwindende en soms angstaanjagende vooruitgang. Of zij―en wij―erin slagen of falen in het oplossen van het afstemprobleem, zal een bepalend menselijk verhaal zijn. Over de auteur Christian heeft diploma's in computerwetenschappen, filosofie en poëzie van de Brown University en de University of Washington. Als Visiting Scholar aan de University of California, Berkeley, woont hij in San Francisco. Christians schrijfsels zijn verschenen in The New Yorker, The Atlantic, Wired, en The Wall Street Journal, evenals in peer-reviewed tijdschriften zoals Cognitive Science. Hij is te zien geweest in The Daily Show en Radiolab, en heeft lezingen gegeven bij Google, Facebook, Microsoft, het Santa Fe Institute, en de London School of Economics. Zijn werk heeft verschillende prijzen gewonnen, waaronder publicatie in Best American Science & Nature Writing, en is in negentien talen vertaald. Hoe deze boekclub werkt. Onze boekbespreking zal zich over verschillende achtereenvolgende weken verspreiden, met twee uur durende bijeenkomsten elke dinsdagavond. Dit geeft ons de tijd om de leesstof met de diepte en zorg te verkennen die het verdient. Neem je eigen prikkelende vragen en inzichten uit de leesstof mee om met de groep te delen. We houden van levendige discussies die onze eigen ideeën en die van de auteur uitdagen en ons in staat stellen om van elkaar te leren - terwijl we genieten van saamhorigheid! Alles wat we vragen is dat iedereen als gelijken wordt behandeld, zowel in respect als in ongeveer spreektijd. Voel je vrij om eventuele extra bronnen die je vindt (in de reacties hieronder) te plaatsen - inclusief bronnen die de auteur uitdagen. We hopen je te zien bij onze dinsdagbijeenkomsten!