מפגש אינפרנציה vLLM בבנגאלור

הצטרפו אלינו לצלילה מעמיקה לתוך המנוע של vLLM ואינפרנס של llm-d, שבו נתרכז בארכיטקטורה, אופטימיזציות וההנדסה הגולמית הנדרשת כדי לבצע אינפרנס בקנה מידה. בין אם אתם מחפשים להוציא כל טוקן אחרון מתוך קבוצת ה-GPU שלכם ובין אם אתם סקרנים לגבי העדכונים האחרונים במערכות האקולוגיות של vLLM ו-llm-d, זו החדר שבו תרצו להיות. ​מה לצפות ​מי צריך להגיע ​סדר יום (נתון לעוד המון דברים מגניבים) ​מידע חשוב הרשמה נסגרת 24 שעות לפני האירוע. אנו לא יכולים לקבל משתתפים לא רשומים. אנא הביאו תעודת זהות עם תמונה כדי לאמת את הרישום שלכם בהגעה.