Исследования Сампура - Talk+Social

Исследования Сампура: Выравнивание с помощью людей в условиях восхождения по склону Исследования Сампура - это некоммерческая организация, расположенная в Лондоне, основанная выпускниками Google DeepMind, работающая над дополнением человека и ИИ для выравнивания ИИ. Поскольку системы ИИ становятся все более способными, судьи, которых мы используем для их обучения, оценки и мониторинга, все чаще не справляются с этой задачей. Большинство специалистов в этой области реагируют на это, заменяя людей судьями на основе больших языковых моделей (LLM); мы считаем, что у людей и ИИ есть дополнительные сильные стороны, и что человеческий надзор является независимым уровнем защиты, который судьи только на основе ИИ не могут предоставить. В этом разговоре мы поделимся тем, как мы создаем лучших судей: рейтинг из 50+ наборов данных, связанных с выравниванием, и методы, которые маршрутизируют, декомпозируют и помогают в взаимодействии между людьми и ИИ, чтобы достичь лучших результатов. При поддержке гранта в $11 миллионов от Coefficient Giving, мы - небольшая команда, работающая в офисе, которая ищет начинающих технических сотрудников, стремящихся решить проблему выравнивания, а не просто приостановить развитие ИИ. Приходите и приветствуйте нас! Расписание (совместное проведение с Инициативой по безопасности ИИ Карнеги)13:00 – Доклад (30 мин)13:30 – Вопросы и ответы (20 мин)13:50 – Неформальное общение (10++ мин)Место проведения: Комната GHC 6115, Центр компьютерных наук имени Гейтса, Университет Карнеги-МеллонИли присоединяйтесь виртуально: ссылка для встречи Хотите встретиться отдельно?Пожалуйста, добавьте свои данные в этот Google Sheet или напишите на [email protected]! Подайте заявку: Заявка на должность начинающего технического сотрудникаПрисоединяйтесь к нашему mailing list: Почтовый списокВебсайт: sampura.org