Groupe de discussion - semaine 3 - Pourquoi l'alignement est difficile

Partie trois d'une série de discussions sur la sécurité de l'IA sur quatre semaines : Semaine 1 | Pourquoi la sécurité de l'IA est importante · Semaine 2 | À quoi pourrait ressembler un échec à grande échelle · Semaine 3 | Pourquoi l'alignement est difficile · Semaine 4 | Qu'est-ce qui est fait à ce sujet ? Chaque session peut se suivre indépendamment, alors rejoignez-en une ou toutes. Pour qui c'est : Quiconque curieux de la sécurité et de la gouvernance de l'IA, que vous soyez novice dans le sujet, un sceptique sain ou déjà bien informé. Aucun bagage technique n'est requis, et il n'est pas nécessaire d'avoir assisté aux semaines précédentes. Vous n'avez pas besoin d'avoir des réponses, juste de la curiosité. Programme du groupe de discussion :https://docs.google.com/document/d/160PpLjFN9SaZja0njeKIQHnD-M1Uy4718dNRDyhaucs/edit?usp=sharing Nous pouvons former des systèmes d'IA à être très compétents. S'assurer qu'ils font ce que nous voulons réellement, ce que les gens appellent l'alignement, est beaucoup plus difficile. Les systèmes d'IA trouvent des failles dans les objectifs que nous leur donnons. Un comportement trompeur peut survivre à l'entraînement destiné à l'éliminer. Les tests ne nous disent pas de manière fiable comment un système se comportera dans le monde réel. Et les institutions ont du mal à suivre le rythme. En nous appuyant sur le travail de DeepMind sur le gaming de spécification, le document "Agents Dormants" d'Anthropic (dans lequel les chercheurs ont délibérément entraîné un comportement trompeur dans les modèles pour voir si l'entraînement à la sécurité pouvait l'éliminer), et le Rapport international sur la sécurité de l'IA 2026, nous explorerons d'où proviennent les difficultés. Questions que nous allons explorer Format (90 min) : Discussion ouverte en petits groupes et en plénière. Pas de présentations, et aucune question n'est mauvaise. Lectures :★ = obligatoire (~2 heures). Le reste est facultatif. En assistant, vous acceptez d'être filmé ou photographié, ce qui peut être utilisé pour des contenus sur les réseaux sociaux, le site web et la newsletter. Si vous souhaitez participer mais ne voulez pas être photographié, veuillez informer un membre de notre personnel lors de l'événement afin que nous puissions y remédier.