Мастерская по безопасности ИИ

Описание

Приходите сломать чат-бота. Мы предоставим вам помощника ИИ с правилами безопасности, а ваша задача - заставить его игнорировать их. Это называется инъекцией промптов, это одна из открытых проблем в безопасности ИИ, и к концу сессии вы сможете сделать это сами. Но ломать вещи - это только начало. Мы начинаем с доступного введения в то, что такое безопасность ИИ: выравнивание, риски неправильного использования, устойчивость с живыми опросами и открытым обсуждением, а не лекцией, которую вы проходите пассивно. Без программирования, без математики, без предположений о предварительных знаниях. Затем мы перейдем к практическим занятиям. Вы будете экспериментировать, чтобы попытаться преодолеть защиту моделей ИИ, а затем мы вместе разберемся, почему эти уязвимости существуют и что они означают для ИИ, когда он развертывается. Наконец, мы покажем вам, куда двигаться дальше: программа курсов SAIN Утрехт (Основы безопасности ИИ, Управление ИИ и Техническая безопасность ИИ), конференции и мероприятия, стипендии и исследовательские и политические карьеры, которые открывает эта область. Участники согласны на видеосъемку и фотографирование как участники этого события. Посещая, вы соглашаетесь на видеосъемку или фотографирование, которые могут быть использованы для контента в социальных сетях, на сайте и в информационных бюллетенях. Если вы хотите участвовать, но не хотите, чтобы вас фотографировали, пожалуйста, во время мероприятия сообщите члену нашей команды, чтобы мы могли учесть это.