El Problema de Alineación: Aprendizaje Automático y Valores Humanos

Nota: Nuestro club de lectura requiere que los asistentes realicen las lecturas asignadas antes de la reunión. Únete a nosotros para nuestra serie de discusiones en línea del club de lectura sobre, “El Problema de Alineación: Aprendizaje Automático y Valores Humanos” de Brian Christian. Lectura asignada para esta semana: Capítulos 7 y 8. Tenga en cuenta: La finalización de la lectura asignada es un requisito para asistir. Si no tienes la oportunidad de hacer la lectura, por favor únete a nosotros en otro momento. ¿De qué trata este libro? Los sistemas de “aprendizaje automático” de hoy, entrenados por datos, son tan efectivos que les hemos invitado a ver y oír por nosotros―y a tomar decisiones en nuestro nombre. Pero suena la alarma. En los últimos años hemos visto una erupción de preocupación a medida que el campo del aprendizaje automático avanza. Cuando los sistemas que intentamos enseñar no harán, al final, lo que queremos o lo que esperamos, surgen riesgos éticos y potencialmente existenciales. Los investigadores llaman a esto el problema de alineación. Los sistemas seleccionan currículos hasta que, años después, descubrimos que tienen sesgos de género inherentes. Los algoritmos deciden sobre fianzas y libertades bajo palabra―y parecen evaluar a los defendidos negros y blancos de manera diferente. Ya no podemos asumir que nuestra solicitud de hipoteca, o incluso nuestras pruebas médicas, serán vistas por ojos humanos. Y a medida que los vehículos autónomos comparten nuestras calles, estamos poniendo cada vez más nuestras vidas en sus manos. Los modelos matemáticos y computacionales que impulsan estos cambios varían en complejidad desde algo que puede caber en una hoja de cálculo hasta un sistema complejo que podría considerarse “inteligencia artificial”. Están reemplazando steady tanto el juicio humano como el software programado explícitamente. En el cautivador relato del autor de best-sellers Brian Christian, conocemos a los “primeros respondedores” del problema de alineación, y aprendemos su ambicioso plan para resolverlo antes de que nuestras manos queden completamente fuera del volante. En una mezcla magistral de historia y reportajes de terreno, Christian traza el crecimiento explosivo en el campo del aprendizaje automático y examina su actual y extenso horizonte. Los lectores se encuentran con una disciplina que encuentra sus piernas en medio de un progreso emocionante y a veces aterrador. Si ellos―y nosotros―tenemos éxito o fracaso en resolver el problema de alineación será una historia humana definitoria. Sobre el autor Christian tiene títulos en informática, filosofía y poesía de la Universidad de Brown y la Universidad de Washington. Como Becario Visitante en la Universidad de California, Berkeley, vive en San Francisco. La escritura de Christian ha aparecido en The New Yorker, The Atlantic, Wired y The Wall Street Journal, así como en revistas revisadas por pares como Cognitive Science. Ha sido presentado en The Daily Show y Radiolab, y ha dado conferencias en Google, Facebook, Microsoft, el Instituto Santa Fe y la London School of Economics. Su trabajo ha ganado varios premios, incluyendo la publicación en Best American Science & Nature Writing, y ha sido traducido a diecinueve idiomas. Cómo funciona este club de lectura. Nuestra discusión del libro se llevará a cabo durante varias semanas consecutivas, con reuniones de dos horas cada martes por la noche. Esto nos da tiempo para explorar las lecturas con la profundidad y el cuidado que merecen. Por favor, trae tus propias preguntas e ideas provocativas de la lectura para compartir con el grupo. Nos gustan las discusiones animadas que desafían nuestras propias ideas y las del autor y nos permiten aprender unos de otros, ¡mientras disfrutamos de la camaradería! Todo lo que pedimos es que todos sean tratados como co-equal, tanto en respeto como en tiempo de habla aproximado. Siéntete libre de publicar (en los Comentarios a continuación) cualquier recurso adicional que encuentres, incluyendo aquellos que desafíen al autor. ¡Esperamos verte en nuestras reuniones de los martes!