IA 2040 : Plan A

Rassemblons-nous et discutons de IA 2040 : Plan A, le nouveau scénario du Projet Avenir IA (l'équipe derrière IA 2027). Contrairement à IA 2027, c'est une recommandation plutôt qu'une prédiction : un accord international dans lequel les États-Unis et la Chine s'accordent en 2029 à éviter une course à la superintelligence, toutes les recherches en IA deviennent publiquement transparentes, les capacités se développent lentement à travers la gamme humaine, et le monde fait une pause au niveau des meilleurs experts humains avant de construire délibérément la superintelligence en 2040, imposée par des systèmes de vérification et "destruction mutuellement assurée des calculs" (les centres de données de la Chine sont construits au Canada, d'ailleurs). Nous discuterons si le plan est cohérent, s'il est réalisable, s'il est même souhaitable, et ce que nous ferions à la place.Le scénario complet est long. Si vous ne pouvez pas tout lire (et il y a beaucoup à lire), lisez le récit principal jusqu'en 2030 ainsi que le résumé et l'introduction de Scott ci-dessous, et voyez si vous pouvez au moins saisir l'essentiel de IA 2040. J'ai partitionné la lecture principale en blocs de 45 minutes à 1 heure que vous pouvez vous inscrire et réclamer ici. Si la feuille est pleine, partagez une section avec quelqu'un.Inscrivez-vous pour lireLecturesLectures supplémentaires