8º Taller de Escalado Neuronal @ NeurIPS

¡Únete a nosotros después de NeurIPS para la 8ª serie de talleres de escalado que comenzó en octubre de 2021! Proporcionamos un foro para discutir los desafíos y avances en la escalabilidad de modelos fundamentales. Este taller, coorganizado por Cerebras Systems, MBZUAI y el CERC en el Laboratorio de IA Autónoma dirigido por Irina Rish en la Université de Montreal y Mila - Instituto de IA de Quebec, se enfocará en los aspectos de desarrollo y despliegue de modelos a gran escala. Qué esperar -> Perspectivas de entrenamiento a escala de frontera de líderes que empujan los límites del preentrenamiento, arquitecturas MoE y modelos de base abiertos. -> Avances a nivel de sistemas en entrenamiento distribuido e inferencia en tiempo real de instituciones como OpenAI, Snowflake, Vector Institute, y más. -> Profundizaciones en la optimización de modelos: compresión, LLMs ternarios, diseño consciente del hardware y estrategias de inferencia de próxima generación. -> Dos paneles de alto perfil con los principales pensadores que están dando forma a la geopolítica y la economía de la IA. -> Recepciones nocturnas y redes de contacto con investigadores, expertos de la industria y fundadores. Destacados del programa Viernes, 5 de diciembre de 5 p. m. – Entrenamiento y sistemas distribuidos Vol Kyrylov (OpenAI) — GPT-OSS: 128 expertos en una sola GPU Hector Liu (MBZUAI) — Empujando los modelos de base abiertos al límite Marco Ciccone (Vector Institute) — Entrenando LLMs en supercomputadoras públicas Aurick Qiao (Snowflake) — Rompiendo el compromiso entre velocidad y costo en el servicio de LLM Panel (7 p. m.): “IA Soberana: IA como Ventaja Geopolítica” con: Natalia Vassilieva, Sara Hooker, Keunwoo Choi, Rio Yokota, Hrant Khachatrian Sábado, 6 de diciembre de 5 p. m. – Inferencia Eficiente y Optimización de Modelos Daria Soboleva (Cerebras) — MoE 101: Entrenamiento y servicio eficiente Junyang Lin (Qwen/Alibaba) — Profundización en Qwen3 Eric Sather (Cerebras) — ML para inferencia de alto rendimiento Irina Rish (UdeM/Mila/42.com) — Perspectivas de investigación sobre la eficiencia de la inferencia Ayush Kaushal (Nolano AI/Mila) — Leyes de escalado e inferencia de LLM ternarios Panel (7 p. m.): “IA: Muéstrame el Dinero” con: swyx, Dylan Patel, Irina Rish, Tri Dao Sábado, 6 de diciembre a las 8 p. m. - Recepción de Clausura 🍾🥳 ¡Celebra con los ponentes y participantes! Sitio web del taller: https://sites.google.com/mila.quebec/8th-scaling-workshop/ Programa completo: https://sites.google.com/mila.quebec/8th-scaling-workshop/schedule Organizadores: Natalia Vassilieva, Daria Soboleva, Karina Anichkina-Wolf, Alexis Roger, Irina Rish Moderadores (sesiones y panel): Daria Soboleva