vLLM Inference Meetup Mumbai

Een technische vLLM- en llm-d meetup op 26 september 2026, waarin schaalbare LLM-inferentie wordt verkend door diepgaande architectuuranalyses, productieervaringen en live demo's.## Binnen de LLM-inferentie-engineOntworpen voor ingenieurs die generatieve AI-systemen sneller en efficiënter willen draaien, gaat de vLLM Inference Meetup Mumbai verder dan algemene discussies om de engineering achter inferentie op schaal te onderzoeken. Het programma richt zich op de architectuur en optimalisatietechnieken die teams helpen om beter gebruik te maken van GPU-infrastructuur, de tokensnelheid te verhogen en LLM-diensten in productie te brengen.Deelnemers horen rechtstreeks van onderhoudsbeheerders en kernbijdragers die werken binnen de vLLM en llm-d ecosystemen, naast branchepraktijkmensen met ervaring in het implementeren van productieve AI-systemen. Sessies combineren projectupdates en technische lezingen met praktische demonstraties van workflows uit de echte wereld.## Agenda hoogtepuntenHet geplande programma omvat:- Een introductie tot vLLM en een update over de laatste ontwikkelingen van het project- Speculatieve decodering en de rol ervan in het versnellen van AI-inferentie- Een reis van evaluatie naar productie, inclusief hoe je een beheerde vLLM-dienst met llm-d bouwt- Lessen van teams die LLM's in productie implementeren en leveren- Een hands-on lab van Sardeenz over GPU-virtualisatie en multi-model implementatie op een enkele GPU- Live demo's, openingstoespraken en mogelijkheden om ideeën uit te wisselen met sprekers en mede-ingenieursDe agenda is beschrijft als onderhevig aan verandering, wat ruimte laat voor verder technische inhoud en bijdragen van de gemeenschap.## Wie moet deelnemen?Deze meetup is vooral relevant voor vLLM- en llm-d-gebruikers of bijdragers, machine learning- en infrastructuuringenieurs die verantwoordelijk zijn voor inferentie en modellevering, en platformteams die GenAI-werkbelasting in de productie draaien. Het is ook geschikt voor ontwikkelaars die onderzoek doen naar efficiënte inferentie in lokale omgevingen, cloudinfrastructuur en Kubernetes.…Registreer voor dit evenement