Проблема согласования: Машинное обучение и человеческие ценности

Примечание: Наш книжный клуб требует, чтобы участники прочитали назначенные материалы перед встречей. Пожалуйста, присоединяйтесь к нашей онлайн-дискуссионной серии книжного клуба по книге “Проблема согласования: Машинное обучение и человеческие ценности” Брайана Кристиана. Назначенное чтение на этой неделе: Пролог, Введение и Главы 1 и 2. Обратите внимание: Выполнение назначенного чтения является предпосылкой для участия. Если у вас не было возможности прочитать, пожалуйста, присоединяйтесь к нам в другое время. О чем эта книга? Современные системы «машинного обучения», обучаемые на данных, настолько эффективны, что мы пригласили их видеть и слышать за нас ― и принимать решения от нашего имени. Но звуковые сигналы тревоги звучат. В последние годы возникла волна озабоченности, поскольку область машинного обучения продвигается вперед. Когда системы, которые мы пытаемся обучить, в конце концов не делают то, что мы хотим или ожидаем, возникают этические и потенциально экзистенциальные риски. Исследователи называют это проблемой согласования. Системы отбирают резюме до тех пор, пока, годы спустя, мы не обнаруживаем, что они имеют внутренние гендерные предвзятости. Алгоритмы решают вопросы залога и условно-досрочного освобождения ― и, похоже, по-разному оценивают чернокожих и белых обвиняемых. Мы больше не можем предполагать, что наша заявка на ипотеку или даже наши медицинские тесты будут видеть человеческие глаза. И по мере того как автономные автомобили заполняют наши улицы, мы все больше ставим свои жизни в их руки. Математические и вычислительные модели, стоящие за этими изменениями, варьируются по сложности от чего-то, что может поместиться в электронную таблицу, до сложной системы, которую можно правдоподобно назвать «искусственным интеллектом». Они постепенно заменяют как человеческое суждение, так и явно запрограммированное программное обеспечение. В захватывающем рассказе Брайана Кристиана, автора бестселлеров, мы встречаем «первыми реагирующими» на проблему согласования и узнаем о их амбициозном плане решить ее, прежде чем наши руки полностью уйдут с руля. В мастерском сочетании истории и репортажей на месте Кристиан прослеживает стремительный рост в области машинного обучения и исследует ее текущее, разрастающееся направление. Читатели сталкиваются с дисциплиной, которая ищет свое место среди захватывающего и иногда пугающего прогресса. Успеем ли мы ― и сможем ли ― решить проблему согласования, будет определяющей человеческой историей. Об авторе Кристиан имеет степени в области компьютерных наук, философии и поэзии от Университета Брауна и Университета Вашингтона. Посетительный научный сотрудник в Университете Калифорнии в Беркли, он живет в Сан-Франциско. Публикации Кристиана появлялись в The New Yorker, The Atlantic, Wired и The Wall Street Journal, а также в рецензируемых журналах, таких как Cognitive Science. Он был представлен на The Daily Show и Radiolab, а также читал лекции в Google, Facebook, Microsoft, Институте Санта-Фе и Лондонской школе экономики. Его работа получила несколько наград, включая публикации в Best American Science & Nature Writing, и переведена на девятнадцать языков. Как работает этот книжный клуб. Наше книжное обсуждение будет проходить на протяжении нескольких последовательных недель, с двухчасовыми встречами каждую вторую ночь. Это дает нам время погрузиться в чтение с той глубиной и заботой, которой они заслуживают. Пожалуйста, принесите свои собственные провокационные вопросы и мысли из прочитанного, чтобы поделиться с группой. Нам нравятся живые дискуссии, которые ставят под сомнение наши идеи и идеи автора и позволяют нам учиться друг у друга — в то время как мы наслаждаемся товариществом! Все, о чем мы просим, это чтобы каждый был уважительно замечен как равноправный участник, как по уважению, так и по времени выступления. Не стесняйтесь размещать (в комментариях ниже) любые дополнительные ресурсы, которые вы найдете — включая те, которые ставят под сомнение автора. Мы надеемся увидеть вас на наших встречах во вторник!