vLLM Inference Meetup Bengaluru

Doe mee aan een diepgaande verkenning van de motorruimte van vLLM en llm-d AI-inferentie, waar we ons zullen richten op de architectuur, optimalisaties en ruwe engineering die nodig zijn om inferentie op grote schaal uit te voeren.Of je nu elk laatste token uit je GPU-cluster wilt halen of je nieuwsgierig bent naar de nieuwste commits in de vLLM- en llm-d-ecosystemen, dit is de ruimte waar je wilt zijn.Wat te VerwachtenWie Moet Erbij ZijnAgenda (Onder Voorbehoud van Meer Geweldigheid)Belangrijke informatieRegistratie sluit 24 uur voor het evenement. We kunnen niet-gevaccineerde deelnemers niet toelaten.Neem een foto-ID mee om je registratie bij aankomst te verifiëren.