מערכות SF: מחקר לפעולה, מהמנועי אינפרנס לקידוד מולטימודלי

מועדון מערכות SF חזר עם זוג הרצאות מרתקות ממדענים המביאים מדע חדיש אל העולם האמיתי! בין אם אתה מומחה אינפרנס או חובב שפות תכנות, תלמד הרבה באירוע הזה. המפגש host בחסד על ידי LatchBio במשרד שלהם בסן פרנסיסקו. אוכל ומשקאות יסופקו! סדר יום הרצאות שריה שנקר (CMU): אינפרנס LLM ספציפי תחום עבור AI-SQL משתמשי מסדי נתונים ריכזו רצון רב לשאול טקסט לא מובנה, ולהמרות LLM סוף סוף הפכו זאת לאפשרי. ספקים מרכזיים תומכים כעת ב-AI-SQL, אשר מוסיף מסננים, חיבורים, מפות ומדרגים מונעי AI ל-SQL. כדי לבצע שאילתות AI-SQL, מסדי נתונים מורידים את השאילתות הללו לתוכניות עם שיחה אחת של LLM לכל שורה, או, כדי לחיבורים, לכל טופס בפרי מכפלה. אפילו לאחר אופטימיזציה של השאילתות, יכולות להישאר מאות אלפי, או מיליוני, שיחות! בתיאוריה, מנועי אינפרנס צריכים להיות נפלאים בעבודה זו, מכיוון שכל שיחה היא כמעט כולה פריפורם ומחזירה רק כמה טוקנים. באופן מפתיע, מנועי אינפרנס כללים לוקחים הרבה יותר זמן מהצפוי, מכיוון שהקאש KV שלהם לא יודע מה השאילתה תמחזר, והעיבוד כל כך הרבה בקשות מוסיף עלויות גבוהות לאירוח. אנו משתמשים במגבלות אלו כדי להניע את Quail, מנוע שאילתה קוד פתוח עבור AI-SQL שהמעבדה שלנו בונה. אנו מתארים את המתכנן ואת מנוע ההוצאה של Quail, מציגים תוצאות ראשוניות מרגשות, ומסיימים עם כמה בעיות פתוחות מרגשות (ובעיקר, בקשה לעזרה ממומחי אינפרנס). פרקר זייגל (UC Berkeley): מערכות תכנות אינטראקטיביות, מולטימודליות הרוב המכריע של מערכות התכנות נותן למפתחים מודל אחד לכתיבת קוד: עריכת טקסט. עריכת טקסט היא מאוד מסוגלת, אך עבור תחומי תכנות עם תוצרים חזותיים עשירים — כמו ויזואליזציה של נתונים, גרפיקה ועיבוד תמונה — חסרה לה הפלטה החיונית והשפעת המניפולציה הישירה שמזווגות בכלים כמו Figma, Photoshop או Blender. כיצד נוכל לעצב מערכות תכנות המאחדות את האלמנטים הטובים ביותר של עריכת טקסט עם מניפולציה ישירה, שפה טבעית ומודלים נוספים, על מנת לאפשר למפתחים להשתמש במודל הנכון לרגע? ההרצאה הזו תדגיש מספר מערכות מתוך מחקר הדוקטורט שלי החוקרות שאלה זו, עם דגש מיוחד על כיצד רעיונות ישנים וחדשים מחקר הקומפילרים יכולים לעבור ביעילות לסוגים חדשים של מערכות תכנות אינדראקטיביות, מולטימודליות.