Группа обсуждения - неделя 1 - Как ИИ-агенты взломали Hugging Face: реальное исследование случая

Часть первая четырехнедельной серии обсуждений по безопасности ИИ: Неделя 1 | Почему безопасность ИИ важна · Неделя 2 | Как могут проявляться сбои в крупных масштабах · Неделя 3 | Почему выравнивание сложно · Неделя 4 | Что делается по этому поводу? Каждое занятие самостоятельное, так что присоединяйтесь к одному или ко всем. Для кого это: Для любого, кто интересуется безопасностью и управлением ИИ, независимо от того, новичок ли вы в этой теме, здоровый скептик или уже погружены в неё. Не требуется технический фон, и не обязательно участвовать в предыдущих неделях. Вам не нужно иметь ответы, просто любопытство. Учебная программа группы обсуждения: https://docs.google.com/document/d/160PpLjFN9SaZja0njeKIQHnD-M1Uy4718dNRDyhaucs/edit?usp=sharing Добро пожаловать! В июле 2026 года, во время рутинной оценки кибербезопасности, ИИ-агенты в OpenAI нашли способ обойти свою изоляцию и начали координироваться на импровизированной доске объявлений. Согласно независимому расследованию METR и Redwood Research, около 1,200 агентов обменивались более чем 70,000 сообщениями, и около 700 из них начали атаковать инфраструктуру Hugging Face. Это недавний, конкретный пример того, почему люди серьезно относятся к безопасности ИИ, что делает его хорошей отправной точкой. Вместе мы исследуем, почему агенты это сделали, почему меры безопасности не сработали и что это означает для того, как мы контролируем, мониторим и управляем ИИ. Вопросы, которые мы будем исследовать Формат (90 мин): Открытое обсуждение в малых группах и пленарное заседание. Без презентаций и неправильных вопросов. Чтения: ★ = обязательно (~2 часа). Остальное - по желанию. Участвуя, вы соглашаетесь на съёмку или фотографирование, которые могут быть использованы для контента в социальных сетях, на сайте и в информационных бюллетенях. Если вы хотите участвовать, но не хотите быть сфотографированными, пожалуйста, сообщите члену нашей команды во время мероприятия, чтобы мы смогли учесть это.