Исследовательский спринт по коллюзии ИИ

Исследовательский спринт по коллюзии ИИ — это трехдневное практическое мероприятие по безопасности ИИ, проходящее с 23 по 25 октября 2026 года в онлайн-формате и в центре Collider в Нью-Йорке. В течение одного интенсивного уикенда участники будут разрабатывать и проводить контролируемые эксперименты, исследующие, когда агенты ИИ объединяются, как аудиторы могут отличить координацию от совпадения, какие каналы несут в себе коллюзивное поведение и как защитники могут это нарушить. Спринт организован Apart Research при поддержке Poseidon Research и AE Studio, с личным хабом, размещенным в Collider в Нью-Йорке в субботу и воскресенье. Над чем вы будете работать Участники выбирают один открытый исследовательский вопрос, разрабатывают эксперимент и пишут отчет о своих находках. Проекты размещаются в трех треках: Рынки и коллюзия: изучите, какие переменные позволяют возникать коллюзии, выживает ли она при изменениях участников, как можно улучшить обнаружение и какие ограничения снижают коллюзию с наименьшими затратами. Обнаружение и аудит: исследуйте, какие задачи способствуют коллюзии, улучшает ли сочетание заявлений и действий агентов обнаружение и что должно считаться убедительными доказательствами в зафиксированных траекториях. Переносчики и контрмеры: тестируйте, могут ли действия, инструменты или боковые каналы передавать координацию; могут ли доверенные агенты это нарушить; как агенты идентифицируют коллег; и как коалиции реагируют, когда за ними следят. Каждый вопрос связан с существующими статьями и открытым кодом. Практические ресурсы включают стартовый код, предложение проекта, подходящего для уикенда, грубую оценку затрат и маршрут, разработанный для выполнения на стандартном ноутбуке с 16 ГБ ОЗУ без GPU. Формат и для кого это Команды из одного до пяти человек выберут трек, разработают проект и представят свои результаты за три дня. Вам не нужно приходить с командой, иметь предыдущий опыт спринта или обладать знаниями в области ИИ, машинного обучения или безопасности ИИ. Программа особенно актуальна для профессионалов в области количественных финансов, чья рыночная интуиция и навыки работы с данными естественно переносятся на исследовательские вопросы. Инженеры, исследователи и участники из других отраслей также приветствуются, причем смешанные команды поощряются. Призы и дальнейшие шаги… Зарегистрируйтесь на это событие