Meetup vLLM w Toronto

Dołącz do nas na meetupie vLLM x Cohere w Toronto, wieczorze dla inżynierów AI, badaczy i twórców infrastruktury. To szansa na połączenie się z konserwatorami vLLM i zespołem Cohere zajmującym się modelami do zastosowań na dużą skale. Omówimy, jak ekosystem vLLM i otwarte wagi Cohere współpracują oraz jak wpisują się w wkład upstream. Sesja skupi się na inferencji: roadmapie vLLM, serwowaniu dla zadań agentowych oraz zaawansowanym offloadingu pamięci podręcznej KV. Roger Wang, współzałożyciel Inferact i główny konserwator vLLM, przedstawi aktualizacje techniczne, a zakończymy na żywo panelem dyskusyjnym o przyszłości inferencji i tym, co czeka otwarte AI. Dodatkowi prelegenci z vLLM i Cohere zostaną wkrótce ogłoszeni. Wieczór zakończymy networkingiem, drinkami i przekąskami. Harmonogram