
Sécurité de l'IA Hebdomadaire : Alignement dès le Token Zéro
Description
IMPORTANT : Cette session sera plus technique que les autres sessions de la série.<\/p>
La plupart des travaux sur l'alignement aujourd'hui se déroulent après le pré-entraînement. Un modèle apprend d'abord à partir de quantités énormes de texte, recueillant toutes sortes de comportements et de voix en cours de route, et c'est seulement après qu'il est formé pour agir en tant qu'assistant utile et inoffensif. En conséquence, les valeurs d'un modèle peuvent finir par être une fine couche sur tout ce qu'il a appris auparavant, plutôt que quelque chose de profondément ancré. Mais que se passerait-il si l'alignement commençait dès le tout premier token d'entraînement ?<\/p>
Dans cette session thématique, V. Moskvoretskii (un étudiant en doctorat à l'EPFL) présentera son travail récent, Pré-entraînement de Persona Synthétique : Alignement depuis le Premier Token. Au lieu d'ajouter la persona d'assistant à la fin, le Pré-entraînement de Persona Synthétique (SPP) l'intègre dès le début : les documents de pré-entraînement sont annotés avec des réflexions morales à la première personne basées sur une constitution de valeurs, et le post-entraînement lie ensuite l'identité de l'assistant à cette persona pré-entraînée. Dans des modèles allant jusqu'à 3 milliards de paramètres entraînés sur 500 milliards de tokens, le SPP a amélioré la manière dont les modèles respectent leur constitution, les a rendus plus robustes aux jailbreaks, et a réduit les choix mal alignés dans des dilemmes moraux, le tout sans nuire aux capacités. Le moment s'avère important : introduire la même intervention uniquement à la fin du pré-entraînement fonctionne de manière visiblement moins efficace. La technique fait également partie de l'entraînement d'Apertus 2, la prochaine version du LLM open-source suisse, donc c'est une occasion d'entendre parler des travaux de sécurité réalisés sur un modèle ouvert construit ici même en Suisse.<\/p>
Après la présentation, nous ouvrirons le sol pour la discussion. L'alignement devrait-il commencer au stade de pré-entraînement ? Qu'est-ce que les personas dans les LLM, et comment se forment-elles ? Quand est le meilleur moment dans l'entraînement pour introduire des propriétés souhaitées, et est-ce que plus tôt peut vraiment être mieux que plus tard ? Et comment mesurons-nous même ces différences, surtout dans de petits modèles ? Nous pouvons également utiliser la session pour discuter des questions plus larges autour de la sécurité de l'IA open-source.<\/p>
🍕 Des aliments seront fournis après la session pour le réseautage et des discussions supplémentaires.<\/p>
📅 Mardi, 17 novembre, 18:30–20:00📍 Bâtiment principal de l'ETH, HG D3.3.<\/p>
Un niveau technique modéré est recommandé. Une familiarité de base avec la façon dont les grands modèles de langage sont entraînés (pré-entraînement vs. post-entraînement/affinage) est bénéfique. L'inscription est requise.<\/p>
Lieu de l`événement
Faites savoir à votre réseau que vous y allez
Partagez cet événement pour engager des conversations, inviter des collègues et vous connecter avant qu`il commence.











