Исследования Sampura - Talk+Social

Исследования Sampura: Выравнивание с помощью людей на восхождении по холмам Исследования Sampura - это некоммерческая организация, базирующаяся в Лондоне, основанная выпускниками Google DeepMind, занимающаяся созданием человеко-ИИ дополнения для выравнивания ИИ. Поскольку ИИ-системы становятся все более мощными, судьи, которых мы используем для их обучения, оценки и мониторинга, все больше не соответствуют требованиям. Большинство в этой области отвечает на это заменой людей судьями в ЛЛМ; мы считаем, что у людей и ИИ есть взаимодополняющие сильные стороны, и что человеческий надзор является некоррелированным уровнем защиты, которого судьи только на ИИ предоставить не могут. На этом выступлении мы поделимся тем, как мы создаем лучших судей: таблица лидеров из более чем 50 наборов данных, актуальных для выравнивания, и методы, которые направляют, разлагают и помогают как людям, так и ИИ для восхождения по холмам. Расписание (вы можете присоединиться к любой части)17:00 - Выступление (20 мин)17:20 - Вопросы и ответы (20 мин)17:40 - Неформальная беседа с командой (20 мин) С поддержкой гранта в размере 11 миллионов долларов от Coefficient Giving, мы небольшая команда, работающая в личном формате, набирающая технический персонал для основания, стремящаяся решить проблему выравнивания вместо приостановки ИИ. Приходите и скажите привет! Подать заявку: Заявка на членство в техническом персонале ОснованияВебсайт: https://sampura.org/