Проблема согласования: Машинное обучение и человеческие ценности

Примечание: Наш книжный клуб требует, чтобы участники прочитали назначенные материалы перед встречей. Пожалуйста, присоединяйтесь к нашему онлайн-дискуссионному клубу книг по книге “Проблема согласования: Машинное обучение и человеческие ценности” Брайана Кристиана. Назначенное чтение на эту неделю: главы 7 и 8. Обратите внимание: Завершение назначенного чтения является обязательным для участия. Если у вас нет возможности прочитать, пожалуйста, присоединяйтесь к нам в другое время. О чем эта книга? Современные системы «машинного обучения», обученные на данных, настолько эффективны, что мы пригласили их видеть и слышать за нас — и принимать решения от нашего имени. Но тревожные звонки звучат. В последние годы возникло множество опасений, поскольку область машинного обучения развивается. Когда системы, которые мы пытаемся обучить, в конечном итоге не делают то, что мы хотим или ожидаем, возникают этические и потенциально экзистенциальные риски. Исследователи называют это проблемой согласования. Системы отбирают резюме, пока, спустя годы, мы не обнаруживаем, что у них есть присущие гендерные предвзятости. Алгоритмы решают вопросы об освобождении под залог и условно-досрочном освобождении — и, похоже, оценивают чернокожих и белых подсудимых по-разному. Мы больше не можем предполагать, что наша ипотечная заявка или даже наши медицинские тесты будут рассмотрены человеческими глазами. А с появлением автономных транспортных средств на наших улицах мы все больше ставим свои жизни в их руки. Математические и вычислительные модели, движущие этими изменениями, варьируются по сложности от чего-то, что можно поместить в электронную таблицу, до сложной системы, которую можно правдоподобно назвать «искусственным интеллектом». Они постепенно заменяют как человеческое суждение, так и явно запрограммированное программное обеспечение. В захватывающем рассказе бестселлера Брайана Кристиана мы встречаем «первых помощников» проблемы согласования и узнаем о их амбициозном плане решить её, прежде чем наши руки полностью покинут рулевое управление. В мастерском сочетании истории и репортирования на местах Кристиан прослеживает стремительный рост в области машинного обучения и исследует её текущую, обширную границу. Читатели сталкиваются с дисциплиной, находящей свои ноги среди увлекательного и иногда пугающего прогресса. Успеем ли мы решить проблему согласования или потерпим неудачу — это станет определяющей человеческой историей. Об авторе Кристиан имеет степени в области компьютерных наук, философии и поэзии из Университета Брауна и Университета Вашингтона. Являясь визитующим ученым в Университете Калифорнии в Беркли, он живет в Сан-Франциско. Письма Кристиана публиковались в The New Yorker, The Atlantic, Wired и The Wall Street Journal, а также в рецензируемых журналах, таких как Cognitive Science. Он участвовал в трансляциях на The Daily Show и Radiolab и читал лекции в Google, Facebook, Microsoft, Институте Санта-Фе и Лондонской школе экономики. Его работа была удостоена нескольких наград, включая публикацию в Best American Science & Nature Writing, и была переведена на девятнадцать языков. Как работает этот книжный клуб. Наша дискуссия книги будет разбита на несколько последовательных недель с двухчасовыми встречами каждый вторник вечером. Это дает нам время глубоко и внимательно исследовать прочитанное. Пожалуйста, приносите свои провокационные вопросы и идеи из прочитанного, чтобы поделиться с группой. Нам нравятся живые обсуждения, которые бросают вызов нашим собственным идеям и идеям автора и позволяют учиться друг у друга — при этом наслаждаясь товариществом! Мы просим, чтобы ко всем относились как к равным, как в уважении, так и в приблизительном времени выступления. Не стесняйтесь публиковать в комментариях любые дополнительные ресурсы, которые вы найдете — включая те, которые ставят под сомнение автора. Мы надеемся увидеть вас на наших встречах по вторникам!