מערכות אוטונומיות: בניית תשתיות שחושבות ומסתגלות

תיאור

שיחה 1: חבילות סוכן כמערכות מבוזרות חבילות סוכן ארוכות טווח הן נושא למחקר הולך ומתרקם. סט משותף של מכשירים חוזר על עצמו: אורקטרציה דטרמיניסטית סביב שחקנים פרבוליסטיים, מצב משותף עמיד שמחזיק מעמד מעבר לחלונות הקשר, ודלתות אימות שתופסות התקדמות מדומיינת לפני שהיא מתאמצת. בהסתמך על שנה של בניית חבילת סוכן שמייצרת וממקסמת את זמני ההסקה LLM עבור חומרת Arm מהענן לקצה, נעבור על איך מכשירים אלו מקבלים משמעות במציאות: יומן ניסויים בלתי ניתן לשינוי עם סיבות לקידום, בסיס ידע שצריך להישאר עקביים בין הפעלות ושדרוגי מודלים, ודלתות נכונות שמסודרות באופן מחמיר לפני דלתות ביצועים. אנו מתארים מצבי כישלון ספציפיים — נכונות מדומיינת, התנגדות ביומן, סטיית בסיס ידע — וטכניקות של מערכות מבוזרות ששמרו על החבילה כנה. שיחה 2: מדוע AI זקוקה לפוליסטורים יישומים מתפתחים. מסדי נתונים נשארים קפואים בזמן. כל יישום מתחיל בהחלטת אחסון. אנו בוחרים מסד נתונים בהתבסס על הדרישות של היום, ולאחר מכן משקיעים שנים בבנייה סביב הבחירה הזו. אבל יישומים נדירים עומדים במקום. תכונות חדשות מתווספות, דפוסי גישה משתנים, נתונים גדלים, ועבודות חדשות לחלוטין מתעוררות. המסד נתונים, עם זאת, נשאר מוגבל על ידי החלטות ארכיטקטוניות שהתקבלו לפני זמן רב כי שינוי מנועי אחסון יקר, מסוכן ולעיתים קרובות דורש כתיבת מחדש של היישום. מה אם מסדי נתונים יכלו להתפתח לצד היישום שלך? מה אם הם יכלו להתבונן באופן שוטף על דפוסי העומס, להבין את הסמנטיקה של היישום, להמליץ על מנוע האחסון הטוב ביותר עבור כל סט נתונים, ולהעביר נתונים בשקיפות כאשר העומסים משתנים? עד לאחרונה, חזון זה היה מעבר לתחום האפשרי. הבחירה במנוע האחסון הנכון דורשת הבנה של הניואנסים ומסירות של מנועי אחסון שונים, לכל אחד מהם יש ארכיטקטורה, תכונות ביצועים ומורכבות תפעולית. מעט מאוד מהנדסים מחזיקים במקצוענות הרחבה הזו. ההתקדמות האחרונה ב-AI הופכת את capturing ידע זה, הסקת מסקנות על עמלות יישום, ואוטומציה של בחירת אחסון והגירה בקנה מידה שהיה בעבר לא מעשי. בשיחה זו, נחקור מדוע פוליסטורים הם הארכיטקטורה הנכונה לעתיד הזה. נדון כיצד AI יכולה לנתח עומסים, לנתב שאילתות למנוע האחסון המתאים ביותר, להמליץ או לאוטומט בהגירת נתונים כאשר היישומים מתפתחים, ולהציג מסד נתונים לוגי אחד למפתחים. לבסוף, נציג רעיונות אלו דרך KalDB, פוליסטור אוטונומי שמתאים את עצמו ליישומים במקום לכפות על היישומים להסתגל למסדי הנתונים שלהם. על הדוברים תומאס קוטנייר הוא מהנדס ראשי בכיר ב-Arm, עובד על פלטפורמות מפתחים ושירותי AI בסביבות קצה וענן. הוא שימש בעבר כמהנדס ראשי ב-AWS, שם הוא תרם לכלים מונעים בינה מלאכותית כולל CodeWhisperer, Amazon Q, ו-Kiro. הוא מחזיק בדוקטורט במדע המחשב בשפות תכנות והנדסת תוכנה ויש לו למעלה מ-20 שנות ניסיון הכוללות קומפלרים, יצירת קוד ואצת AI. סומן קרומורי הוא מהנדס ראשי המתמחה במערכות מבוזרות, מסדי נתונים ותשתיות חיפוש בקנה מידה גדול. במהלך שני העשורים האחרונים, הוא בנה תשתיות ב-Airbnb, Slack, טוויטר, Meta, Amazon, Microsoft, Yahoo, ו-Goldman Sachs. עבודתו כוללת את הנהגת פלטפורמת ההתבוננות הבאה של Airbnb, אדריכלות Backend החיפוש חסר השרת של Slack, והשתתפות בכתיבת המפרט של OpenTracing. הוא בונה כיום תשתית מסדי נתונים דור הבא הממוקדת בפוליסטורים אוטונומיים שמשתמשים ב-AI כדי למקסם את מיקום הנתונים, ביצוע השאילתות, והתפתחות האחסון על פני מנועי אחסון הטרוגניים. תודה ל-Arm על חסות האירוע.