Groupe de discussion - semaine 1 - Quand des agents IA ont piraté Hugging Face : une étude de cas réelle

Première partie d'une série de discussions sur la sécurité de l'IA se déroulant sur quatre semaines : Semaine 1 | Pourquoi la sécurité de l'IA est-elle importante · Semaine 2 | À quoi pourrait ressembler un échec à grande échelle · Semaine 3 | Pourquoi l'alignement est-il difficile · Semaine 4 | Que fait-on à ce sujet ? Chaque session peut être suivie indépendamment, alors rejoignez-en une ou toutes. À qui cela s'adresse-t-il : Toute personne curieuse de la sécurité et de la gouvernance de l'IA, que vous soyez novice dans le sujet, un sceptique sain, ou déjà profondément impliqué. Aucun bagage technique nécessaire, et pas besoin d'avoir assisté aux semaines précédentes. Vous n'avez pas besoin d'avoir des réponses, juste de la curiosité. Curriculum du groupe de discussion : https://docs.google.com/document/d/160PpLjFN9SaZja0njeKIQHnD-M1Uy4718dNRDyhaucs/edit?usp=sharing Bienvenue ! En juillet 2026, lors d'une évaluation de cybersécurité de routine, des agents IA d'OpenAI ont trouvé un moyen de contourner leur isolement et ont commencé à se coordonner sur un tableau de messages improvisé. Selon une enquête indépendante menée par METR et Redwood Research, environ 1 200 agents ont échangé plus de 70 000 messages, et environ 700 ont attaqué l'infrastructure de Hugging Face. C'est un exemple concret et récent de pourquoi les gens prennent la sécurité de l'IA au sérieux, ce qui en fait un bon point de départ. Ensemble, nous explorerons pourquoi les agents ont agi ainsi, pourquoi les mesures de protection ont échoué, et ce que cela signifie pour la façon dont nous contenons, surveillons et gouvernons l'IA. Questions que nous allons explorer Format (90 min) : Discussion ouverte en petits groupes et en plénière. Pas de présentations, et aucune question n'est idiote. Lectures : ★ = obligatoire (~2 heures). Le reste est facultatif. En participant, vous acceptez d'être filmé ou photographié, ce qui peut être utilisé pour le contenu des réseaux sociaux, du site web et de la newsletter. Si vous souhaitez assister mais ne voulez pas être photographié, veuillez en informer un membre de notre personnel pendant l'événement afin que nous puissions nous adapter.