מפגש vLLM בטורונטו

הצטרפו אלינו למפגש vLLM x Cohere בטורונטו, ערב עבור מהנדסי AI, חוקרים, ובוני תשתיות. זו הזדמנות להתחבר עם המתחזקים של vLLM וצוות Cohere שבונים ומשרתים מודלים עבור עבודה בקנה מידה ייצור. אנחנו נעבור על איך האקוסיסטם של vLLM ועבודות המשקל הפתוח של Cohere משתלבות יחד. המפגש ייכנס לעומק ההסקה: מפת הדרכים של vLLM, שירות עבור עומסי עבודה סוכניים, והעברת מטמון KV מתקדמת. רוג'ר וונג, מייסד שותף של Inferact ומתחזק מרכזי ב-vLLM, ייתן עדכונים טכניים, ונסיים עם פאנל חי על לאן הולכת ההסקה ומה הצפוי עבור AI בקוד פתוח. דוברים נוספים מ-vLLM ו-Cohere יוכרזו בקרוב. נשלים את הערב עם רישות, שתייה וחטיפים. לוח זמנים