El Problema de Alineación: Aprendizaje Automático y Valores Humanos

Nota: Nuestro club de lectura requiere que los asistentes realicen las lecturas asignadas antes de la reunión. Únete a nosotros para nuestra serie de discusión en línea del club de lectura sobre, “El Problema de Alineación: Aprendizaje Automático y Valores Humanos” de Brian Christian. Lectura asignada para esta semana: El Prólogo, Introducción y Capítulos 1 y 2. Por favor, nota: La finalización de la lectura asignada es un requisito previo para asistir. Si no tienes la oportunidad de hacer la lectura, por favor únete a nosotros en otra ocasión. ¿De qué trata este libro? Los sistemas de “aprendizaje automático” de hoy, entrenados por datos, son tan efectivos que les hemos invitado a ver y oír por nosotros―y a tomar decisiones en nuestro nombre. Pero las alarmas están sonando. En los últimos años, ha habido una explosión de preocupación a medida que el campo del aprendizaje automático avanza. Cuando los sistemas que intentamos enseñar, al final, no hacen lo que queremos o lo que esperamos, emergen riesgos éticos y potencialmente existenciales. Los investigadores llaman a esto el problema de alineación. Los sistemas filtran currículos hasta que, años después, descubrimos que tienen sesgos de género inherentes. Los algoritmos deciden sobre fianzas y libertades bajo palabra―y parecen evaluar a los acusados negros y blancos de manera diferente. Ya no podemos asumir que nuestra solicitud de hipoteca, o incluso nuestras pruebas médicas, serán vistas por ojos humanos. Y a medida que los vehículos autónomos comparten nuestras calles, estamos cada vez más poniendo nuestras vidas en sus manos. Los modelos matemáticos y computacionales que impulsan estos cambios varían en complejidad desde algo que puede caber en una hoja de cálculo hasta un sistema complejo que podría llamarse de manera creíble “inteligencia artificial”. Están reemplazando, de manera constante, tanto el juicio humano como el software programado explícitamente. En el emocionante relato del autor de bestsellers Brian Christian, conocemos a los “primeros respondedores” del problema de alineación, y aprendemos su ambicioso plan para resolverlo antes de que nuestras manos estén completamente fuera del volante. En una magistral mezcla de historia y reportaje en el terreno, Christian traza el crecimiento explosivo en el campo del aprendizaje automático y analiza su frontera actual y extensa. Los lectores se encuentran con una disciplina que está encontrando su rumbo en medio de un progreso emocionante y a veces aterrador. Si ellos―y nosotros―suceden o fracasan en resolver el problema de alineación será una historia humana definitoria. Sobre el autor Christian tiene títulos en ciencias de la computación, filosofía y poesía de la Universidad de Brown y de la Universidad de Washington. Es Investigador Visitante en la Universidad de California, Berkeley, y vive en San Francisco. La escritura de Christian ha aparecido en The New Yorker, The Atlantic, Wired y The Wall Street Journal, así como en revistas revisadas por pares como Cognitive Science. Ha sido presentado en The Daily Show y Radiolab, y ha dado conferencias en Google, Facebook, Microsoft, el Instituto Santa Fe y la London School of Economics. Su trabajo ha ganado varios premios, incluida la publicación en Best American Science & Nature Writing, y ha sido traducido a diecinueve idiomas. Cómo funciona este club de lectura. Nuestra discusión del libro se extenderá durante varias semanas consecutivas, con reuniones de dos horas todos los martes por la noche. Esto nos da tiempo para explorar las lecturas con la profundidad y el cuidado que merecen. Por favor, trae tus propias preguntas e ideas provocativas de la lectura para compartir con el grupo. Nos gustan las discusiones animadas que desafían nuestras propias ideas y las del autor, y que nos permiten aprender unos de otros, ¡mientras disfrutamos de la camaradería! Lo único que pedimos es que todos sean tratados como co-equipos, tanto en respeto como en tiempo de habla aproximado. Siéntete libre de publicar (en los Comentarios a continuación) cualquier recurso adicional que encuentres, incluyendo aquellos que desafían al autor. ¡Esperamos verte en nuestras reuniones de martes!