vLLM Inferenz Meetup Bengaluru

Kommen Sie zu uns für einen tiefen Einblick in das Motorenraum von vLLM und llm-d KI-Inferenz, wo wir uns auf die Architektur, Optimierungen und die rohe Ingenieurskunst konzentrieren, die erforderlich sind, um Inferenz in großem Maßstab durchzuführen.Ob Sie nun versuchen, jeden letzten Token aus Ihrem GPU-Cluster herauszuholen oder ob Sie neugierig auf die neuesten Commits an den vLLM- und llm-d-Ökosystemen sind, dies ist der Raum, in dem Sie sein möchten.​Was Sie erwarten können​Wer teilnehmen sollte​Agenda (Vorbehaltlich weiterer Tolles)​Wichtige InformationenDie Registrierung schließt 24 Stunden vor der Veranstaltung. Wir können unregistrierte Teilnehmer nicht zulassen.Bitte bringen Sie einen Lichtbildausweis mit, um Ihre Registrierung bei der Ankunft zu überprüfen.