Со-разработка верификации для Темпов на границе

Фон Лаборатории границ ИИ могут в конечном итоге нуждаться в том, чтобы регулировать или ограничивать развитие или развертывание на критическом уровне возможностей. Делать это безопасно и вселять уверенность в другие лаборатории или правительства в том, что обязательства действительно выполняются, зависит от механизмов верификации, которые существуют до того, как они станут крайне необходимыми. Без них лаборатории и политики могут оказаться перед лицом высоких ставок с очень ограниченными возможностями маневра. Это увеличивает риск потери контроля над продвинутыми системами или потери возможности формировать решения о них (например, с помощью грубого вмешательства правительства). «Темпы на границе» определяет проблему, но не решения. Заявление призывает правительство обеспечить возможность выбора. Мы предварительно считаем, что это неверно: лаборатории на границе более склонны, чем правительства, обладать экспертизой и ресурсами для того, чтобы эффективно запустить инструменты верификации до момента их необходимости. Тем временем, сообщество верификации разрабатывает технические проекты, эксперименты и прототипы. Не хватает мнений людей из лабораторий границ о том, может ли это вообще функционировать в граничной среде. И самые большие открытые вопросы — это те, на которые могут ответить только лаборатории: когда механизм должен быть готов к развертыванию, соответствует ли он существующей инфраструктуре, подходит ли он под охранную политику лаборатории и какие другие операционные ограничения сделают его нецелесообразным? Запуск серии со-разработок Это первое мероприятие в серии совместного проектирования по переводу верификации из проектирования в развертывание. Идея заключается в том, чтобы постепенно сократить большой объем предложений по верификации до небольшого числа надежных кандидатов: (a) Согласовать с лабораториями, какие утверждения действительно важны для темпов на разных временных горизонтах. (b) Красная команда на уровне документации с инфраструктурой лабораторий, безопасностью и другими соответствующими командами, чтобы поймать фатальные ограничения до того, как кто-либо начнет делать усилия на прототипах. (c) Построение концепции, изначально вне лабораторий и на инфраструктуре лабораторий, где это полезно. (d) Техническая и операционная красная команда всего, что выживет - Эта первая сессия – это этап (a). Мы знаем, что у людей в лабораториях не так много времени для оценки предложений, поэтому мы не будем просить вас оценивать кучу заявок. Что мы сделаем на этой сессии Перед сессией мы распространим проект списка утверждений, которые лаборатории или правительства могут захотеть сделать надежными друг для друга. Это только отправная точка. Пожалуйста, оспаривайте это, уточняйте, переоценивайте и дополняйте. Мы особенно хотим, чтобы люди, которые считают, что вся повестка дня верификации ошибочна, сказали нам, почему. Вместе мы будем: Формат – это структурированный мозговой штурм, малые группы для обсуждения и заключительная синтез. Будет еда. Мы хотим, чтобы это было не только рабочее заседание, но и хорошее времяпрепровождение. Все участвуют в личном качестве. Участие не подразумевает одобрения от вашего работодателя. Обсуждение проходит под правилом Чатем-Хаус.