Het Afstemmingsprobleem: Machine Learning en Menselijke Waarden

Opmerking: Onze boekenclub vereist dat deelnemers de toegewezen lectuur vóór de vergadering lezen. Doe mee aan onze online boekenclubdiscussieserie over “Het Afstemmingsprobleem: Machine Learning en Menselijke Waarden” van Brian Christian. Toegewezen lectuur voor deze week: Het Voorwoord, Inleiding en Hoofdstukken 1 en 2. Let op: Het afronden van de toegewezen lectuur is een vereiste om deel te nemen. Als je niet de kans hebt om te lezen, kom dan een andere keer bij ons. Waar gaat dit boek over? De huidige “machine-learning” systemen, getraind door data, zijn zo effectief dat we ze hebben uitgenodigd om voor ons te zien en te horen – en om beslissingen in ons belang te nemen. Maar de alarmbellen rinkelen. De afgelopen jaren hebben een uitbarsting van bezorgdheid gezien terwijl het veld van machine learning zich ontwikkelt. Wanneer de systemen die we proberen te onderwijzen uiteindelijk niet doen wat we willen of wat we verwachten, ontstaan ethische en potentieel existentiële risico’s. Onderzoekers noemen dit het afstemmingsprobleem. Systemen filteren cv's tot we jaren later ontdekken dat ze inherente genderbiases hebben. Algoritmes bepalen borgtocht en voorwaardelijke vrijlating – en lijken zwarte en witte verdachten verschillend te beoordelen. We kunnen niet langer aannemen dat onze hypotheekaanvraag, of zelfs onze medische tests, door menselijke ogen worden bekeken. En terwijl autonome voertuigen onze straten delen, leggen we steeds meer ons leven in hun handen. De wiskundige en computationele modellen die deze veranderingen aandrijven, variëren in complexiteit van iets dat op een spreadsheet past tot een complex systeem dat geloofwaardig “kunstmatige intelligentie” zou kunnen worden genoemd. Ze vervangen gestaag zowel menselijke oordelen als expliciet geprogrammeerde software. In de meeslepende verslaggeving van bestsellerauteur Brian Christian ontmoeten we de “eerste hulpverleners” van het afstemmingsprobleem en leren we hun ambitieuze plan om het op te lossen voordat onze handen volledig van het stuur zijn. In een meesterlijke mix van geschiedenis en ter plaatse verslaggeving, volgt Christian de explosieve groei op het gebied van machine learning en verkent hij de huidige, uitgestrekte grens. Lezers maken kennis met een discipline die haar benen vindt te midden van opwindende en soms Angstaanjagende vooruitgang. Of zij – en wij – erin slagen of falen in het oplossen van het afstemmingsprobleem zal een bepalend menselijk verhaal zijn. Over de auteur Christian heeft diploma's in computerwetenschappen, filosofie en poëzie van Brown University en de Universiteit van Washington. Hij is Visiting Scholar aan de Universiteit van Californië, Berkeley, en woont in San Francisco. Christian’s schrijven is verschenen in The New Yorker, The Atlantic, Wired en The Wall Street Journal, evenals in peer-reviewed tijdschriften zoals Cognitieve Wetenschap. Hij is verschenen op The Daily Show en Radiolab, en heeft lezingen gegeven bij Google, Facebook, Microsoft, het Santa Fe Institute en de London School of Economics. Zijn werk heeft verschillende prijzen gewonnen, waaronder publicatie in Best American Science & Nature Writing, en is in negentien talen vertaald. Hoe deze boekenclub werkt. Onze boekbespreking zal over verschillende opeenvolgende weken worden verspreid, met twee uur durende bijeenkomsten elke dinsdagavond. Dit geeft ons de tijd om de lectuur met de diepgang en zorg te verkennen die ze verdienen. Neem alstublieft uw eigen prikkelende vragen en inzichten uit de lectuur mee om met de groep te delen. We houden van levendige discussies die onze eigen ideeën en die van de auteur uitdagen en die ons in staat stellen van elkaar te leren - terwijl we genieten van kameraadschap! Alles wat we vragen is dat iedereen als gelijke wordt behandeld, zowel in respect als in de geschatte spreektijd. Voel je vrij om (in de opmerkingen hieronder) aanvullende bronnen te plaatsen die je vindt - inclusief bronnen die de auteur uitdagen. We hopen je te zien tijdens onze dinsdagbijeenkomsten!