El Problema de Alineación: Aprendizaje Automático y Valores Humanos

Nota: Nuestro club de lectura requiere que los asistentes realicen las lecturas asignadas antes de la reunión. Únete a nosotros para nuestra serie de discusiones en línea del club de lectura sobre, “El Problema de Alineación: Aprendizaje Automático y Valores Humanos” de Brian Christian. Lectura asignada para esta semana: Capítulos 5 y 6. Tenga en cuenta: La finalización de la lectura asignada es un requisito previo para asistir. Si no tienes la oportunidad de hacer la lectura, por favor únete a nosotros en otra ocasión. ¿De qué trata este libro? Los sistemas de “aprendizaje automático” de hoy, entrenados con datos, son tan efectivos que los hemos invitado a ver y escuchar por nosotros - y a tomar decisiones en nuestro nombre. Pero las alarmas están sonando. En los últimos años ha habido una erupción de preocupaciones a medida que avanza el campo del aprendizaje automático. Cuando los sistemas que intentamos enseñar no terminarán haciendo lo que queremos o lo que esperamos, surgen riesgos éticos y potencialmente existenciales. Los investigadores llaman a esto el problema de alineación. Los sistemas seleccionan currículos hasta que, años después, descubrimos que tienen sesgos de género inherentes. Los algoritmos deciden sobre fianzas y libertad bajo palabra - y parecen evaluar a los acusados ​​negros y blancos de manera diferente. Ya no podemos asumir que nuestra solicitud de hipoteca, o incluso nuestras pruebas médicas, serán vistas por ojos humanos. Y a medida que los vehículos autónomos comparten nuestras calles, estamos poniendo cada vez más nuestras vidas en sus manos. Los modelos matemáticos y computacionales que impulsan estos cambios varían en complejidad desde algo que puede caber en una hoja de cálculo hasta un sistema complejo que bien podría ser llamado “inteligencia artificial”. Están reemplazando constantemente tanto el juicio humano como el software explícitamente programado. En el emocionante relato del autor de bestsellers Brian Christian, conocemos a los “primeros respondedores” del problema de alineación y aprendemos su ambicioso plan para resolverlo antes de que nuestras manos estén completamente fuera del volante. En una mágica fusión de historia y reportes en terreno, Christian rastrea el crecimiento explosivo en el campo del aprendizaje automático y examina su actual y extensa frontera. Los lectores se encuentran con una disciplina que encuentra su equilibrio en medio de un progreso emocionante y a veces aterrador. Si ellos -y nosotros- tenemos éxito o fracasamos en resolver el problema de alineación será una historia humana definitoria. Acerca del autor Christian tiene títulos en ciencias de la computación, filosofía y poesía de la Universidad de Brown y la Universidad de Washington. Es un Académico Invitado en la Universidad de California, Berkeley, y vive en San Francisco. Los escritos de Christian han aparecido en The New Yorker, The Atlantic, Wired y The Wall Street Journal, así como en revistas revisadas por pares como Cognitive Science. Ha sido presentado en The Daily Show y Radiolab, y ha dado conferencias en Google, Facebook, Microsoft, el Instituto Santa Fe y la London School of Economics. Su trabajo ha ganado varios premios, incluida la publicación en Best American Science & Nature Writing, y ha sido traducido a diecinueve idiomas. Cómo funciona este club de lectura. Nuestra discusión del libro se llevará a cabo durante varias semanas consecutivas, con reuniones de dos horas cada martes por la noche. Esto nos da tiempo para explorar las lecturas con la profundidad y el cuidado que merecen. Por favor, lleva tus propias preguntas e ideas provocadoras del texto para compartir con el grupo. Nos gustan las discusiones animadas que desafían nuestras propias ideas y las del autor y nos permiten aprender unos de otros - ¡mientras disfrutamos de la camaradería! Lo único que pedimos es que todos sean tratados como co-iguales, tanto en respeto como en tiempo de habla aproximadamente. No dudes en publicar (en los Comentarios a continuación) cualquier recurso adicional que encuentres - incluyendo aquellos que desafían al autor. ¡Esperamos verte en nuestras reuniones de los martes!