Encuentro vLLM Toronto

Únete a nosotros para el encuentro vLLM x Cohere en Toronto, una tarde para ingenieros de IA, investigadores y constructores de infraestructuras. Esta es una oportunidad para conectarse con los mantenedores de vLLM y el equipo de Cohere que construye y ofrece modelos para cargas de trabajo a escala de producción. Cubriremos cómo funciona el ecosistema vLLM y cómo las contribuciones de pesos abiertos de Cohere se integran. La sesión profundiza en la inferencia: la hoja de ruta de vLLM, la atención a cargas de trabajo agentivas y el desalojo avanzado de caché KV. Roger Wang, cofundador de Inferact y un mantenedor principal de vLLM, dará actualizaciones técnicas, y cerraremos con un panel en vivo sobre hacia dónde se dirige la inferencia y qué sigue para la IA de código abierto. Se anunciarán pronto oradores adicionales de vLLM y Cohere. Terminaremos la tarde con networking, bebidas y bocados. Horario