AI Collusion Research Sprint

AI Collusion Research Sprint є триденним, практичним заходом з безпеки штучного інтелекту, що проходитиме 23–25 жовтня 2026 року онлайн та в Collider у Нью-Йорку. Протягом одного інтенсивного вікенду учасники розроблять і проведуть контрольовані експерименти, досліджуючи, коли агенти ШІ колаборують, як аудитори можуть відрізнити координацію від збігу обставин, які канали несуть колаборативну поведінку та як захисники можуть її порушити. Спринт організований Apart Research за участю Poseidon Research та AE Studio, з фізичним хабом, що буде проведений у Collider у Нью-Йорку в суботу та неділю. Над чим ви будете працювати Учасники оберуть одне відкрите наукове питання, створять експеримент і підготують висновки. Проекти розміщуються в межах трьох напрямків: Ринки та колаборація: досліджувати, які змінні дозволяють виникнути колаборації, чи виживе вона при зміні учасників, як можна поліпшити виявлення та які обмеження знижують колаборацію з найменшими витратами. Виявлення та аудит: досліджувати, які завдання сприяють колаборації, чи покращує виявлення об’єднання заяв і дій агентів, та що повинно вважатися переконливими доказами в зафіксованих траєкторіях. Переносники та контрзаходи: тестувати, чи можуть дії, інструменти або побічні канали передавати координацію; чи можуть довірені агенти порушувати її; як агенти ідентифікують ровесників; та як коаліції реагують на моніторинг. Кожне питання пов’язане з наявними статтями та відкритим програмним кодом. Практичні ресурси включають стартовий код, пропозицію проекту на вихідні, приблизну оцінку вартості та маршрут, розроблений для роботи на стандартному ноутбуку з 16 ГБ оперативної пам’яті без GPU. Формат та хто може брати участь Команди з одного до п’яти людей оберуть напрямок, розроблять проект та представлять свої результати протягом трьох днів. Вам не потрібно приходити з командою, мати попередній досвід спринту або володіти знаннями в області ШІ, машинного навчання або безпеки ШІ. Програма є особливо актуальною для професіоналів у галузі кількісних фінансів, чиї інтуїція на ринку та навички роботи з даними природно переходять до наукових запитів. Інженери, дослідники та учасники з інших галузей також вітаються, заохочуючи змішані команди. Призи та наступні кроки… Зареєструватися на цей захід