Le Problème d'Alignement : Apprentissage Automatique et Valeurs Humaines

Remarque : Notre club de lecture exige que les participants fassent les lectures assignées avant la réunion. Veuillez nous rejoindre pour notre série de discussions en ligne sur le livre, “Le Problème d'Alignement : Apprentissage Automatique et Valeurs Humaines” de Brian Christian. Lecture assignée pour cette semaine : Le Prologue, Introduction et Chapitres 1 et 2. Veuillez noter : La lecture assignée est une condition préalable à la participation. Si vous n'avez pas eu l'occasion de lire, veuillez nous rejoindre une autre fois. De quoi parle ce livre ? Les systèmes de “machine-learning” d'aujourd'hui, formés par des données, sont si efficaces que nous les avons invités à voir et à entendre pour nous―et à prendre des décisions en notre nom. Mais les alarmes sonnent. Ces dernières années ont vu une éruption de préoccupations alors que le domaine de l'apprentissage automatique progresse. Lorsque les systèmes que nous tentons d'enseigner ne feront finalement pas ce que nous voulons ou ce que nous attendons, des risques éthiques et potentiellement existentiels émergent. Les chercheurs appellent cela le problème d'alignement. Les systèmes trient les CV jusqu'à ce que, des années plus tard, nous découvrions qu'ils ont des biais de genre inhérents. Les algorithmes décident de la liberté sous caution et de la libération conditionnelle―et semblent évaluer différemment les prévenus noirs et blancs. Nous ne pouvons plus supposer que notre demande de prêt hypothécaire, ou même nos tests médicaux, seront vus par des yeux humains. Et à mesure que des véhicules autonomes partagent nos routes, nous mettons de plus en plus nos vies entre leurs mains. Les modèles mathématiques et computationnels qui conduisent ces changements vont de quelque chose qui peut tenir sur une feuille de calcul à un système complexe qui pourrait légitimement être appelé “intelligence artificielle.” Ils remplacent progressivement le jugement humain et les logiciels explicitement programmés. Dans le récit captivant de l'auteur à succès Brian Christian, nous rencontrons les “premiers intervenants” du problème d'alignement et apprenons leur plan ambitieux pour le résoudre avant que nos mains ne soient complètement lâchées sur le volant. Dans un mélange magistral d'histoire et de reportage sur le terrain, Christian retrace la croissance explosive dans le domaine de l'apprentissage automatique et examine sa frontière actuelle, tentaculaire. Les lecteurs découvrent une discipline qui trouve ses marques au milieu de progrès exaltants et parfois terrifiants. Que nous―et eux―réussissions ou échouions à résoudre le problème d'alignement sera une histoire humaine déterminante. À propos de l'auteur Christian a des diplômes en informatique, philosophie et poésie de l'Université Brown et de l'Université de Washington. Chercheur invité à l'Université de Californie, Berkeley, il vit à San Francisco. Les écrits de Christian sont parus dans The New Yorker, The Atlantic, Wired, et The Wall Street Journal, ainsi que dans des revues à comité de lecture telles que Cognitive Science. Il a été présenté dans The Daily Show et Radiolab, et a donné des conférences chez Google, Facebook, Microsoft, l'Institut de Santa Fe et la London School of Economics. Son travail a remporté plusieurs prix, y compris une publication dans Best American Science & Nature Writing, et a été traduit en dix-neuf langues. Comment fonctionne ce club de lecture. Notre discussion de livre s'étalera sur plusieurs semaines consécutives, avec des réunions de deux heures chaque mardi soir. Cela nous donne le temps d'explorer les lectures avec la profondeur et le soin qu'elles méritent. Veuillez apporter vos propres questions et idées provocantes tirées de la lecture à partager avec le groupe. Nous aimons les discussions animées qui remettent en question nos propres idées et celles de l'auteur et qui nous permettent d'apprendre les uns des autres -- tout en appréciant la camaraderie ! Tout ce que nous demandons est que chacun soit traité en tant que co-égaux, tant en respect qu'en temps de parole approximatif. N'hésitez pas à poster (dans les commentaires ci-dessous) toutes les ressources supplémentaires que vous trouvez -- y compris celles qui remettent en question l'auteur. Nous espérons vous voir lors de nos réunions de mardi !