מפגש אינפרה vLLM במומבאי

מפגש טכני של vLLM ו-llm-d ב-26 בספטמבר 2026, החוקר אינפרה של LLM בצורה ניתנת להרחבה באמצעות חקר ארכיטקטורה, לקחים מהפקת לקחים ודemos חיים.## בתוך מנוע האינפרה של LLMמתוכנן עבור מהנדסים המעוניינים להריץ מערכות AI גנרטיביות במהירות וביעילות רבה יותר, מפגש אינפרה vLLM במומבאי עובר מעבר לדיון ברמה גבוהה כדי לבחון את ההנדסה מאחורי אינפרה בקנה מידה. התכנית מתמקדת בארכיטקטורה וטכניקות אופטימיזציה המסייעות לצוותים לעשות שימוש טוב יותר בתשתית GPU, להגביר את קצב זרימת הטוקנים ולהעביר שירותי LLM לייצור.הנוכחים שמע תובנות ישירות מהשומרים והתרומות המרכזיות העובדים במערכות האקולוגיות של vLLM ו-llm-d, לצד אנשי מקצוע בתעשייה עם ניסיון בהערכת מערכות AI בייצור. המפגשים ישלבו עדכוני פרויקטים ודיונים טכניים עם הדגמות מעשיות של זרימות עבודה מעשיות.## עיקרי סדר יוםהתכנית המתוכננת כוללת:- היכרות עם vLLM ועדכון על ההתפתחות האחרונה של הפרויקט- פענוח ספקולטיבי ותפקידו בהאצת אינפרה של AI- מסע מהערכה לייצור, כולל איך לבנות שירות vLLM מנוהל עם llm-d- לקחים מצוותים המפרסמים ומעניקים שירות ל-LLMs בייצור- סדנת Sardeenz מעשית המכסה וירטואליזציה של GPU והתקנה של מספר מודלים על GPU אחד- הדגמות חיות,Remarks Opening והזדמנויות להחליף רעיונות עם דוברים ומהנדסים עמיתיםסדר היום מתואר ככפוף לשינוי, מה שמספק מקום לתוכן טכני נוסף ותרומות מהקהילה.## מי צריך להשתתף?מפגש זה רלוונטי במיוחד למשתמשים או תורמים ל-vLLM ו-llm-d, מהנדסי למידת מכונה ותשתיות האחראים על אינפרה והשירות מודלים, וצוותי פלטפורמה המפעילים עומסי GenAI בייצור. זה יתאים גם למפתחים לחקור אינפרה יעילה בסביבות מקומיות, תשתיות ענן וקוברנטיס.…רשום לאירוע זה