Когда согласованный ИИ все равно ошибается

Что если ИИ полностью послушен... и это как раз проблема? ИИ может строго следовать каждой инструкции своего оператора и все равно производить результаты, которые обществу не нравятся. Если это возможно, то, возможно, согласование ИИ связано не только с созданием лучших ИИ-систем. Возможно, также важно учитывать организации, стимулы и институты, стоящие за ними. Это центральная идея полного согласования: согласовывать не только ИИ-системы, но и более широкую экосистему, в которой они работают. Давайте прочтем и обсудим "Полное согласование: от согласования ИИ к социальному согласованию", в котором утверждается, что согласование ИИ требует взгляда за пределы самой модели. Авторы предполагают, что современные подходы к представлению человеческих ценностей слишком упрощены и предлагают "глубокие модели ценностей" как более богатый способ для ИИ рассуждать о ценностях, нормах и коллективных интересах. Затем мы вынесем обсуждение за пределы статьи. Если само общество редко соглашается с тем, что правильно, следует ли ожидать согласия от ИИ? Кто решает, под что ИИ должен оптимизироваться? И когда организации и общество не согласны, кому в конечном итоге должен служить ИИ? ❗Пожалуйста, прочтите перед регистрацией❗ Это не семинар или лекция. Это обсуждение, и каждый в комнате — его часть. Больше о ведущем Джаред Чианг — исследователь безопасности ИИ с опытом работы в области науки о данных, программной инженерии и создании ИИ-решений для государственного сектора. Его текущие научные интересы охватывают контроль ИИ, согласование и безопасность по дизайну, с особым интересом к тому, как все более мощные ИИ-системы могут оставаться надежными и согласованными с человеческими ценностями. Джаред также обучает и наставляет в местном технологическом сообществе и имеет степень магистра в области бизнес-аналитики от NUS. Больше о серии Paper Club — это инициатива сообщества Lorong AI, где члены собираются для обсуждения и анализа академических работ, исследовательских статей или ключевых событий в области ИИ.