Spotkanie Inference vLLM w Mumbaju

Techniczne spotkanie vLLM i llm-d w dniu 26 września 2026 roku, eksplorujące skalowalne wnioskowanie LLM poprzez głębokie analizy architektury, lekcje z produkcji i pokazy na żywo. ## Wewnątrz silnika wnioskowania LLM Zaplanowane dla inżynierów, którzy chcą uruchamiać systemy sztucznej inteligencji generatywnej szybciej i wydajniej, Spotkanie Inference vLLM w Mumbaju wykracza poza dyskusję na wysokim poziomie, badając inżynierię związaną z wnioskowaniem na dużą skalę. Program koncentruje się na architekturze i technikach optymalizacji, które pomagają zespołom lepiej wykorzystać infrastrukturę GPU, zwiększyć przepustowość tokenów i przenieść usługi LLM do produkcji. Uczestnicy usłyszą bezpośrednio od utrzymujących i kluczowych współpracowników pracujących w ekosystemach vLLM i llm-d, obok praktyków z branży z doświadczeniem w wdrażaniu produkcyjnych systemów AI. Sesje połączą aktualizacje projektów i techniczne wykłady z praktycznymi demonstracjami rzeczywistych przepływów pracy. ## Najważniejsze punkty agendy Planowany program obejmuje: - Wprowadzenie do vLLM oraz aktualizację na temat najnowszego rozwoju projektu - Spekulacyjne dekodowanie i jego rolę w przyspieszaniu wnioskowania AI - Podróż od oceny do produkcji, w tym jak zbudować zarządzaną usługę vLLM z llm-d - Lekcje od zespołów wdrażających i obsługujących LLM-y w produkcji - Praktyczne warsztaty Sardeenz obejmujące wirtualizację GPU i wdrażanie wielu modeli na jednym GPU - Pokazy na żywo, wprowadzenia oraz możliwości wymiany pomysłów z prelegentami i innymi inżynierami Agenda może ulec zmianie, pozostawiając przestrzeń na dalsze treści techniczne i wkłady społeczności. ## Kto powinien uczestniczyć? To spotkanie jest szczególnie istotne dla użytkowników lub współpracowników vLLM i llm-d, inżynierów zajmujących się uczeniem maszynowym i infrastrukturą odpowiedzialnych za wnioskowanie i obsługę modeli, oraz zespołów platformowych działających na produkcyjnych obciążeniach GenAI. Będzie również odpowiednie dla deweloperów badających wydajne wnioskowanie w lokalnych środowiskach, infrastrukturze chmurowej i Kubernetes.… Zarejestruj się na to wydarzenie