Проблема выравнивания: машинное обучение и человеческие ценности

Примечание: Наш книжный клуб требует, чтобы участники прочитали назначенные материалы до встречи. Пожалуйста, присоединяйтесь к нашему онлайн-дискуссионному клубу по книге, “Проблема выравнивания: машинное обучение и человеческие ценности” автора Брайана Кристиана. Назначенное чтение на эту неделю: главы 5 и 6. Обратите внимание: Завершение назначенного чтения является предварительным условием для посещения . Если у вас нет возможности прочитать текст, пожалуйста, присоединяйтесь к нам в другой раз. О чем эта книга? Современные системы “машинного обучения”, обученные на данных, так эффективны, что мы пригласили их видеть и слышать за нас ― и принимать решения от нашего имени. Но тревожные звоночки уже прозвучали. В последние годы возникло множество беспокойств, поскольку область машинного обучения прогрессирует. Когда системы, которые мы пытаемся обучить, в конце концов не делают то, что мы хотим или что ожидаем, возникают этические и потенциально экзистенциальные риски. Исследователи называют это проблемой выравнивания. Системы отбирают резюме до тех пор, пока спустя годы мы не обнаружим, что у них есть врожденные гендерные предвзятости. Алгоритмы принимают решения по залогу и условно-досрочному освобождению ― и, похоже, оценивают чернокожих и белых ответчиков по-разному. Мы больше не можем предполагать, что наше заявление на ипотеку или даже наши медицинские тесты будут увидены человеческими глазами. И по мере того как автономные транспортные средства заполняют наши улицы, мы все больше доверяем им свои жизни. Математические и вычислительные модели, движущие этими изменениями, варьируются по сложности от того, что может уместиться в таблице, до сложной системы, которую можно с уверенностью назвать “искусственным интеллектом”. Они постепенно заменяют как человеческое суждение, так и явно запрограммированное программное обеспечение. В захватывающем рассказе автора бестселлеров Брайана Кристиана мы встречаем “первая помощь” проблемы выравнивания и узнаем об их амбициозном плане решить ее, прежде чем наши руки полностью отпустят рулевое управление. В мастерском сочетании истории и репортажей на местах Кристиан прослеживает взрывной рост в области машинного обучения и исследует его текущую, обширную границу. Читатели сталкиваются с дисциплиной, находящей свои ноги среди воодушевляющего и иногда ужасающего прогресса. Успеем ли мы решить проблему выравнивания или потерпим неудачу, станет определяющей человеческой историей. Об авторе Кристиан имеет степени по компьютерным наукам, философии и поэзии из Брауновского университета и Университета Вашингтона. Он является приглашенным учёным в Университете Калифорнии, Беркли, и живет в Сан-Франциско. Писательство Кристиана публиковалось в The New Yorker, The Atlantic, Wired и The Wall Street Journal, а также в рецензируемых журналах, таких как Cognitive Science. Он был представлен в The Daily Show и Radiolab, а также читал лекции в Google, Facebook, Microsoft, Институте Санта-Фе и Лондонской школе экономики. Его работа получила несколько наград, включая публикацию в Best American Science & Nature Writing, и была переведена на девятнадцать языков. Как работает этот книжный клуб. Наше обсуждение книг будет проходить на протяжении нескольких последовательных недель с двухчасовыми встречами каждый вторник вечером. Это дает нам время глубоко и внимательно исследовать прочитанное. Пожалуйста, приносите ваши провокационные вопросы и идеи из прочитанного, чтобы поделиться с группой. Нам нравятся живые дискуссии, которые ставят под сомнение наши собственные идеи и идеи автора и позволяют нам учиться друг у друга, получая удовольствие от общения! Все, что мы просим, это чтобы все относились друг к другу как к равным, как в уважении, так и в приблизительном времени выступления. Не стесняйтесь публиковать (в комментариях ниже) любые дополнительные ресурсы, которые вы найдете, включая те, которые ставят под сомнение автора. Мы надеемся увидеть вас на наших встречах по вторникам!