Apprentissage par Protocole : Social ICML

Alors que la formation en IA de pointe se concentre dans un petit nombre de laboratoires et de hyperscalers de plus en plus intégrés verticalement, la communauté de recherche est confrontée à une question structurelle : la formation de modèles à grande échelle doit-elle nécessairement être centralisée, ou la centralisation est-elle un artefact des choix d'ingénierie et économiques actuels ? Des travaux récents sur la formation distribuée, la communication à faible bande passante, l'apprentissage fédéré et l'apprentissage en essaim suggèrent que la dernière option — une décentralisation significative devient techniquement réalisable à l'échelle de pointe, et pas seulement à l'échelle de jouet.Ce social réunit des chercheurs et des praticiens travaillant à l'intersection de la formation décentralisée, de l'apprentissage fédéré, des systèmes distribués et de la gouvernance de l'IA pour discuter : (1) de la frontière technique actuelle de la formation de modèles décentralisés, (2) des problèmes de recherche ouverts qui freinent les progrès — efficacité de la communication, calcul vérifiable, attribution et robustesse face aux attaques — et (3) de ce que pourrait signifier la propriété collective ou distribuée de modèles de pointe dans la pratique, et pourquoi cela est important comme contrepoids à la concentration de calculs, de capitaux et de prise de décision dans l'IA.Le social Apprentissage par Protocole est organisé en collaboration avec le professeur Namhoon Lee et POSTECH. Rejoignez-nous ! (Le badge de la conférence ICML est requis car il s'agit d'un événement social officiel de l'ICML organisé en dehors de la conférence)