vLLM Meetup Торонто

Присоединяйтесь к нам на встрече vLLM x Cohere в Торонто, вечере для инженеров ИИ, исследователей и строителей инфраструктуры. Это возможность пообщаться с поддерживающими vLLM и командой Cohere, которые создают и обслуживают модели для рабочих нагрузок производственного уровня. Мы обсудим, как экосистема vLLM и открытые веса Cohere работают вместе и как происходит вклад в сообщество. Сессия углубится в инференс: дорожная карта vLLM, обслуживание агентных рабочих нагрузок и продвинутая выгрузка кеша KV. Роджер Ван, соучредитель Inferact и основной поддерживающий vLLM, представит технические обновления, а мы завершим сессией с живой панелью о том, куда движется инференс и что дальше для открытого ИИ. Дополнительные выступающие от vLLM и Cohere будут объявлены позднее. Мы завершим вечер сетевым общением, напитками и закусками. Расписание