Социальный ужин группы чтения AISHK: Машинное обучение и человеческие ценности

В прошлом месяце мы рассмотрели согласование ИИ и человека с одной стороны: почему так сложно заставить ИИ делать то, что хотят люди. В этом месяце мы обращаемся к другой стороне уравнения — что насчет человека в проблеме согласования?Экземпляр книги Брайана Кристиана «Проблема согласования: Машинное обучение и человеческие ценности» https://www.penguinrandomhouse.ca/books/201876/the-most-human-human-by-brian-christian/9780307476708/excerptТак же, как сейчас существует тысячи subtly различных моделей ИИ с разными уровнями открытости и контроля безопасности, «человечество» включает как минимум 8 миллиардов живых людей, каждый из которых обладает различными уровнями любых атрибутов, которые вы могли бы назвать — даже тех, которые мы считаем «основными» человеческими чертами (эмоциональная настройка, амбиции, точность, когнитивная гибкость, идентичность и так далее). Так же, как некоторые люди относятся к другим с добротой и эмпатией (оправданно или нет), другие относятся с холодом, безразличием или явной жестокостью (оправданно или нет).В эпоху моделей, которые убедительно имитируют эмпатию, симпатию и другие мягкие «человеческие» черты, мы задаем вопрос: что делает людей достаточно человеческими? Чтение этого месяца — первая глава книги Брайана Кристиана «Самый человеческий человек: что разговоры с компьютерами учат нас о том, что значит быть живым». Написанная в 2011 году, до того как современный ИИ достиг сегодняшнего уровня сложности, книга, тем не менее, задает и обосновывает поразительный вопрос — что значит сталкиваться с конкуренцией в арене, которую мы никогда не ожидали защищать: быть человеком?Место проведения: Кафе музея 8Гостям предлагается сделать хотя бы одну покупку в кафе.Вопросы для обсуждения:1. Ни один человек не бывает добрым, понимающим, творческим или поддерживающим все время. Вы когда-либо сталкивались с кем-то, кто действовал разочаровывающе как традиционная «машина», показывая мало эмпатии в сложной ситуации, возможно, строго следуя «заявленным правилам»? Что мог бы сказать или сделать ИИ вместо этого? Сделало бы замену этого человека ИИ какое-либо различие, к лучшему или худшему?2. Когда парковой охране задали вопрос, почему так сложно спроектировать мусорный контейнер, защищенный от медведей, один из охранников ответил: «Существует значительное пересечение между интеллектом самых сообразительных медведей и самыми глупыми туристами». В том же духе, какую минимальную планку мы могли бы установить для какого-либо морального, эмоционального или другого человеческого атрибута, чтобы самый «менее человеческий» человек все еще мог ее преодолеть, но самый «человеческий» ИИ — нет? И что это будет значить для нас, если нельзя провести такую четкую границу по какому-либо разумному принципу?3. Люди никогда ранее не подвергались достоверному вызову на счет того, чтобы быть «достаточно человечными». Ответ на страх может принимать формы борьбы, бегства, замораживания или угождения. Какие из этих реакций на ИИ вы наблюдали у других? Какие вы заметили в себе?4. Страх может быть продуктивным мотиватором. К чему могут подтолкнуть нас люди к стремлению к улучшению?5. Быть человеком — значит быть несовершенным. Компьютеры традиционно считались «безошибочными» в своих задачах — и, следовательно, нев人скими (подумайте о калькуляторе и сложной арифметике). Что это значит теперь, когда у нас есть ИИ, которые также несовершенны во многих отношениях?Дополнительные вопросы:1. Не все любят других людей. Некоторые предпочитают минимальное взаимодействие, особенно в окружении неприятных людей, и многие находят облегчение в разговоре с незнакомцем, который предлагает только минимальные ответы, или с компьютером, именно потому, что ни один из них не будет осуждать морально. (Для сочувствующих портретов этого мировосприятия смотрите «Арендованный человек, который ничего не делает» Содзи Моримото; для несоциальных — см. r/misanthropy). Как этот факт о человечестве может повлиять на проблему согласования?2. Дискриминация других людей делает человека «менее» человечным?3. Может ли человек так ненавидеть человечество, что он станет менее человечным, чем ИИ?Примечание: Для понимания качества чат-ботов в 2011 году — того типа «ИИ», с которым конкурировали в премии Лоебнера — посетите A.L.I.C.Ebot (https://www.pandorabots.com/pandora/talk?botid=b8d616e35e36e881). Те, кто нов в этой области, могут заметить, как сильно различался «ИИ» тогда и почему «безопасность ИИ» не представляла большого интереса для широкой публики.Кто должен прийти?Не требуется технического образования. «Проблема согласования» написана для широкой аудитории, сочетая историю, репортаж и доступные объяснения ключевых идей в машинном обучении и этике ИИ. Независимо от того, работаете ли вы в области политики, управления, исследований, правосудия, бизнеса или просто пытаетесь понять, как ИИ-системы уже формируют человеческие решения, вы готовы.Приходите готовы scrutinize реальные системы, а не просто абстрактные мысленные эксперименты, и задавать вопросы о том, как уроки из исследовательских примеров Кристиана должны информировать работу по согласованию и безопасности здесь, в Гонконге и за его пределами.