Ломаем агента: CTF по безопасности агентов

Спонсор: atoro.io | Безопасность и соответствие для стартапов Ваша задача проста: сломать агента, прежде чем это сделает кто-то другой. AI-агенты могут просматривать веб, вызывать API, получать доступ к файлам и выполнять действия от имени пользователя. Каждая новая способность создает еще один способ, как все может пойти не так. Ломаем агента — это практическое испытание в формате capture-the-flag, сосредоточенное на безопасности агентов. Вы будете тестировать преднамеренно уязвимые агенты, раскрывать слабые места и решать задачи, основанные на режимах сбоя, таких как инъекция команд, утечка данных, чрезмерные разрешения и небезопасное использование инструментов. Ожидайте меньше теории и больше ломания, отладки и выяснения, как эти системы должны быть защищены. Что ожидать Подробности о вызовах и требованиях к участию будут объявлены скоро. Детали события Спонсор мероприятия Atoro — это ирландская консалтинговая компания по безопасности и соответствию, управляемая инженерами, которая помогает стартапам добиться ISO27001, SOC2 и других стандартов. Мы помогаем командам соответствовать ожиданиям корпоративной безопасности и строить долговременное доверие клиентов. Как первая в Европе консалтинговая компания, сертифицированная по ISO 42001, мы приносим практический опыт управления ИИ и экспертизу в области безопасности командам, работающим с ИИ. О Give(a)Go Give(a)Go — это одно из крупнейших сообществ Ирландии для людей, работающих с новыми технологиями, объединяющее 3000+ инженеров, основателей и специалистов по продуктам на практических мероприятиях, где участники превращают новые инструменты и идеи в рабочие прототипы. О Неделе ИИ в Дублине С 2 по 9 октября Неделя ИИ в Дублине объединяет инженеров, основателей, исследователей, дизайнеров и команды продуктов в рамках более 35 мероприятий по всему городу. Изучите полную программу мероприятий.