Conférences de Recherche : Introduction à l'Alignement de la Superintelligence

Description

La plupart des recherches sur la sécurité de l'IA aujourd'hui, comme le travail d'Anthropic, OpenAI et d'autres que notre groupe de lecture couvre généralement, se concentre sur des méthodes empiriques appliquées à la frontière actuelle, espérant que la compréhension résultante s'applique également aux systèmes futurs. Mais l'alignement doit probablement fonctionner du premier coup avec des systèmes qui peuvent être qualitativement différents. Une approche alternative commence par les propriétés que nous désirons que les futurs systèmes aient et les décompose en questions fondamentales sur l'agence, le raisonnement, l'auto-modification ou l'optimisation. Lors de nos prochaines conférences de recherche, Ouro, un chercheur en sécurité de l'IA travaillant avec Orthogonal et co-organisant le séminaire théorique AFFINE sur l'alignement, discutera des propriétés de la superintelligence, des perspectives d'alignement souvent négligées, évaluera les approches présentes et introduira des modèles mentaux pour raisonner sur l'alignement à la limite des capacités. Quand : Vendredi 24 juillet, 16h00-18h00 Où : Lumi Otaniemi Hub (4e étage), Aalto Nous nous rassemblons devant le bâtiment et partons ensemble vers la salle de présentation à 16h00. Si besoin, contactez-nous dans le groupe telegram : https://t.me/+4WUz4gBTIok3NGQ8