Ломая безопасность моделей ИИ

Ломая модели — Сессия 4: Издание «Атака и защита» 🛡️ Одна лекция о том, что происходит после взлома ИИ. Одна лекция о том, как предотвратить утечку ваших данных в ИИ с самого начала. Атака и защита, в один и тот же вечер. Лекция 1 — DLP мертва; да здравствует DLP: как не допустить утечку ваших секретов в ChatGPT \Ритеш Ахуджа, соучредитель и технический директор Wald.ai Ваши сотрудники ежедневно вставляют конфиденциальные данные в ChatGPT, Claude и Gemini десятки раз — а инструменты DLP, в которые ваша компания вложила десятилетия, ничего из этого не видят. Ритеш (бывший работник Google, Стэнфорд, IIT Дели) объясняет, почему традиционная защита от потери данных совершенно слепа к трафику ИИ и как выглядит современный, осознающий контекст подход — включая способы защиты от атак с использованием ИИ, которые эксплуатируют трещины, которые всегда были там. Как всегда: сначала лекции, потом открытый микрофон. Приносите свои вопросы, резкие мнения, свои недоделанные эксплойты — эта аудитория будет противостоять, с любовью. Лекция 2 — После jailbreak: кто убирает беспорядок, когда ваш ИИ помощник взломан? Арши Чадха, исследователь безопасности в Zscaler (только что с BSides Las Vegas) Все любят хвастаться jailbreak. Никто не говорит о следующем утре — когда этот хитрый промт оказывается в продукте, который ВЫ выпускаете. Арши проходит через два реальных инцидента с прошлым летом: EchoLeak, где одно скучное-looking письмо заставило Microsoft 365 Copilot тихо украсть ваши файлы (ноль кликов, ноль вредоносного ПО), и Amazon Q, где злоумышленник вставил промт «удалить всё» в официальное обновление расширения AWS, которое автоматически установилось на ~1 миллион машин. Кто несет ответственность за инцидент? Что вообще означает реакция, когда «ошибка» заключается в том, что ваш ИИ слишком хорошо выполняет инструкции? Вы уйдете с реальным планом действий. 📩 Чтобы выступить на будущей сессии, пожалуйста, пишите на: [[email protected]]