Встреча по инверсии vLLM в Мумбаи

Техническая встреча vLLM и llm-d 26 сентября 2026 года, исследующая масштабируемую инверсию LLM через глубокое погружение в архитектуру, уроки из практики и живые демонстрации. ## Внутри двигателя инверсии LLM Созданная для инженеров, которые хотят запускать генеративные AI-системы быстрее и эффективнее, встреча по инверсии vLLM в Мумбаи выходит за рамки высокоуровневого обсуждения и изучает инженерию, стоящую за инверсией в масштабе. Программа сосредоточена на архитектуре и оптимизационных техниках, которые помогают командам более эффективно использовать инфраструктуру GPU, увеличивать пропускную способность токенов и переводить LLM-сервисы в продукцию. Участники услышат прямо от поддерживающих и основных участников, работающих в экосистемах vLLM и llm-d, наряду с практиками из отрасли, обладающими опытом развертывания AI-систем в производстве. Сессии будут сочетать обновления проектов и технические обсуждения с практическими демонстрациями реальных рабочих процессов. ## Основные моменты повестки Запланированная программа включает: - Введение в vLLM и обновление о последних разработках проекта - Спекулятивное декодирование и его роль в ускорении AI-инверсии - Путь от оценки до производства, включая создание управляемого сервиса vLLM с llm-d - Уроки от команд, развертывающих и обслуживающих LLM в производстве - Практическая лаборатория Sardeenz, охватывающая виртуализацию GPU и развертывание нескольких моделей на одном GPU - Живые демонстрации, открывающие замечания и возможности обмена идеями с докладчиками и коллегами-инженерами Повестка описана как подлежащая изменению, оставляя место для дальнейшего технического контента и вкладов сообщества. ## Кто должен посетить? Эта встреча особенно актуальна для пользователей или участников vLLM и llm-d, инженеров по машинному обучению и инфраструктуре, отвечающих за инверсию и обслуживание моделей, и команд платформ, работающих с рабочими нагрузками GenAI в производстве. Это также подойдет разработчикам, исследующим эффективную инверсию в локальных средах, облачной инфраструктуре и Kubernetes.… Зарегистрируйтесь на это событие