Le problème d'alignement : apprentissage automatique et valeurs humaines

Remarque : Notre club de lecture exige que les participants lisent les passages assignés avant la réunion. Veuillez nous rejoindre pour notre série de discussions en ligne sur le livre, “Le problème d'alignement : apprentissage automatique et valeurs humaines” par Brian Christian. Lecture assignée pour cette semaine : Chapitres 7 et 8. Veuillez noter : La complétion de la lecture assignée est une condition préalable à la participation. Si vous n'avez pas la chance de faire la lecture, veuillez nous rejoindre une autre fois. De quoi parle ce livre ? Les systèmes d'“apprentissage automatique” d'aujourd'hui, formés par des données, sont si efficaces que nous les avons invités à voir et à entendre pour nous―et à prendre des décisions en notre nom. Mais des alarmes retentissent. Ces dernières années, une éruption de préoccupations a été observée alors que le domaine de l'apprentissage automatique progresse. Lorsque les systèmes que nous tentons d'enseigner, au final, ne feront pas ce que nous voulons ou ce que nous attendons, des risques éthiques et potentiellement existentiels émergent. Les chercheurs appellent cela le problème d'alignement. Les systèmes filtrent les CV jusqu'à ce que, des années plus tard, nous découvrions qu'ils ont des biais de genre inhérents. Les algorithmes décident de la caution et de la libération conditionnelle―et semblent évaluer les défendeurs noirs et blancs différemment. Nous ne pouvons plus supposer que notre demande de prêt hypothécaire, ou même nos tests médicaux, seront vus par des yeux humains. Et alors que les véhicules autonomes partagent nos rues, nous mettons de plus en plus nos vies entre leurs mains. Les modèles mathématiques et computationnels qui entraînent ces changements vont de quelque chose qui peut tenir sur une feuille de calcul à un système complexe qui pourrait légitimement être appelé “intelligence artificielle.” Ils remplacent progressivement à la fois le jugement humain et les logiciels explicitement programmés. Dans le récit captivant de l'auteur à succès Brian Christian, nous rencontrons les “premiers intervenants” du problème d'alignement, et apprenons leur plan ambitieux pour le résoudre avant que nos mains ne soient complètement hors du volant. Dans un mélange magistral d'histoire et de reportage de terrain, Christian retrace la croissance explosive du domaine de l'apprentissage automatique et examine sa frontière actuelle, tentaculaire. Les lecteurs rencontrent une discipline qui trouve ses marques au milieu d'un progrès exaltant et parfois terrifiant. Que nous réussissions ou échouions à résoudre le problème d'alignement sera une histoire humaine déterminante. À propos de l'auteur Christian détient des diplômes en informatique, philosophie et poésie de l'Université Brown et de l'Université de Washington. Chercheur invité à l'Université de Californie, Berkeley, il vit à San Francisco. Les écrits de Christian ont été publiés dans The New Yorker, The Atlantic, Wired, et The Wall Street Journal, ainsi que dans des revues universitaires telles que Cognitive Science. Il a été présenté dans The Daily Show et Radiolab, et a donné des conférences chez Google, Facebook, Microsoft, à l'Institut de Santa Fe et à la London School of Economics. Son travail a remporté plusieurs prix, y compris une publication dans Best American Science & Nature Writing, et a été traduit en dix-neuf langues. Comment fonctionne ce club de lecture. Notre discussion de livre sera répartie sur plusieurs semaines consécutives, avec des réunions de deux heures tous les mardis soir. Cela nous donne le temps d'explorer les lectures avec la profondeur et l'attention qu'elles méritent. Veuillez apporter vos propres questions et idées stimulantes provenant de la lecture à partager avec le groupe. Nous apprécions les discussions vivantes qui remettent en question nos propres idées et celles de l'auteur et nous permettent d'apprendre les uns des autres -- tout en profitant de la camaraderie ! Tout ce que nous demandons, c'est que chacun soit traité comme un co-égal, tant en respect qu'en temps de parole approximatif. N'hésitez pas à poster (dans les commentaires ci-dessous) toutes les ressources supplémentaires que vous trouvez -- y compris celles qui remettent en question l'auteur. Nous espérons vous voir lors de nos réunions du mardi !\n