ATELIER DE SÉCURITÉ DE L'IA

Description

Venez casser un chatbot. Nous vous donnerons un assistant IA avec des règles de sécurité, et votre travail consistera à le faire les ignorer. Cela s'appelle l'injection de prompt, c'est l'un des problèmes ouverts en matière de sécurité de l'IA, et à la fin de la session, vous l'aurez fait vous-même. Mais casser des choses n'est que le début. Nous commencerons par une introduction accessible à ce qu'est réellement la sécurité de l'IA : alignement, risques d'utilisation abusive, robustesse avec des sondages en direct et une discussion ouverte plutôt qu'un cours que vous suivez passivement. Pas de codage, pas de mathématiques, aucune connaissance préalable supposée. Ensuite, nous passerons à la pratique. Vous expérimenterez pour essayer de vaincre les sauvegardes des modèles d'IA, et ensuite nous examinerons ensemble pourquoi ces vulnérabilités existent et ce qu'elles signifient pour l'IA lorsqu'elle est déployée. Enfin, nous vous montrerons où aller ensuite : le programme de cours de SAIN Utrecht (Fondamentaux de la sécurité de l'IA, Gouvernance de l'IA et Sécurité technique de l'IA), conférences et événements, bourses, ainsi que les carrières de recherche et de politique que ce domaine a ouvertes.Les participants consentent à être filmés et photographiés en tant que participants à cet événement. En participant, vous acceptez d'être filmé ou photographié, ce qui peut être utilisé pour le contenu des réseaux sociaux, du site web et de la newsletter. Si vous souhaitez assister mais ne voulez pas être photographié, veuillez pendant l'événement informer un membre de notre personnel afin que nous puissions nous adapter.