נתונים פוגשים בינה מלאכותית

מערכות נתונים מתפתחות עם בינה מלאכותית. הבינה המלאכותית לא רק משנה את הדרך שבה אנו בונים, שואלים, מחפשים ודואגים לפלטפורמות נתונים מודרניות, אלא גם מביאה סוגים חדשים לחלוטין של נתונים ועומסי עבודה לתמונה. הצטרפו אלינו בבוקר של מאגרי נתונים ובינה מלאכותית, בעוד מהנדסים מהקהילה משתפים חוויות מעשיות על שילוב נתונים ובינה מלאכותית. החל ממציאת הדרך הנכונה לחפש בעשרות מיליארדי וקטורים, ועד להפיכת מאגרי נתונים לשיחות, ועד להבנת מה נדרש כדי לעקוב אחרי פלטפורמות בינה מלאכותית מודרניות - מפגש זה יחקור את המערכות שמניעות בשקט את מהפכת הבינה המלאכותית. אם אתם בונים אפליקציות בינה מלאכותית, עובדים על תשתית נתונים, או סתם סקרנים לגבי מה קורה כאשר נתונים פוגשים בינה מלאכותית, מפגש זה מיועד לכם. אל תפספסו! תרשמו מראש והבטיחו את מקומכם! אג'נדה מה לצפות צפו בהרצאות טכניות מעמיקות וסיפורי הנדסה מעשיים סביב הצומת של תשתית נתונים ובינה מלאכותית. צפו בתובנות פרקטיות, חקר מעמיק של ארכיטקטורה, ולמידות מבניית ובתפעול מערכות אלו בעולם האמיתי. נסיים עם רשתות על ארוחת צהריים, מה שמעניק לכם הזדמנות להחליף רעיונות וחוויות עם מהנדסי נתונים, חובבי מאגרי נתונים, מהנדסי פלטפורמות ויוצרי בינה מלאכותית. הביאו את השאלות שלכם, את החוויות שלכם, ואת סקרנותכם לגבי המערכות שמאחורי הבינה המלאכותית. *** פרטי המושב: שיחה עם הנתונים שלך: מעבר ל-SQL הצטרפו אלינו למבט מעשי על בניית ממשק שיחה בשפה טבעית למאגרי נתונים מהיסוד! נצלול לתוך איך שילבנו את המערכת הזו עם ClickHouse כדי להפוך את החקירה המורכבת של נתונים ללא מאמץ בין תפקידים שונים בהנדסה ובעסקים. מעבר לדגמי התכונה, נשתף את הבעיות האמיתיות שהגישה הזו פותרת, את האתגרים ההנדסיים המרכזיים שנתקלנו בהם במהלך הבנייה שלה, ולימודים טכניים מרכזיים שנלמדו. אם אתם סקרנים לגבי כלים של מאגרי נתונים מונחי בינה מלאכותית, אינטגרציות LLM, או חוויית משתמש אנליטית, תצאו עם תובנות שניתן לבצע בפרויקטים שלכם. דוברים: סצ'ידננדה מהארנה, SMTS @ נוטניקס & פוניט סובצ'נדרה, MTS-3 @ נוטניקס פרטי המושב: חיפוש וקטורים: האם באמת צריך עוד מאגר נתונים? חיפוש וקטורים הפך במהירות לבניין מפתחות ליישומי בינה מלאכותית - אבל האם זה תמיד אומר שיש להכניס מאגר נתונים חדש? ההרצאה הזו תיקח אותנו למסע דרך מהו חיפוש וקטורים, איך הוא התפתח, ואיפה הוא באמת מוסיף ערך. נחקור מקרים מהמציאות שמפיקים תועלת מחיפוש וקטורים, את הסחרים המעורבים בבחירת מאגר נתונים וקטורי, ואיך להעריך אם מאגר נתונים וקטורי מתמחה - או מאגר נתונים קיים כמו PostgreSQL או ClickHouse - הוא המתאים לעומס העבודה שלכם. נבחן אילו יכולות מאגרי נתונים קיימים כבר מספקים עבור חיפוש וקטורים, היכן הם מצליחים היטב, ואיפה מאגר נתונים וקטורי ייעודי יכול להציע יתרונות משמעותיים. דוברים: פרנאב מהטה, MTS-4 @ נוטניקס & קיילש קג'ריוול, MTS-1 @ נוטניקס פרטי המושב: אופטימיזציה של אינפרנס עם תצפית מוגנת על ידי ClickHouse ביצועי אינפרנס הם תלויי עומס עבודה. עבודה לסיכום באץ' בקצב גבוה מתמקדת בכמות סך הטוקנים המעובדים בשניה ויכולה לסבול טוקן ראשון איטי. עוזר קוד אופטימלי עבור זמן-הראשון-טוקן במקום זאת, מכיוון שמפתח צופה בעכבר. עוזרי קוד גם משתמשים בהקשר חוזר על פני בקשות - אותו פקודה מערכת, אותו קובץ. זה עושה את קישורי הקדם לאחד מהחזרות הגדולות עלות ולאטיות. עומסי עבודה של כלי-קורא, מרובי שלבים נראים שונים. בקשה אחת הופכת לשרשרת של קריאות: לתכנן, לקרוא כלי, להחזיר את התוצאה, לחזור. אורך השרשרת אינו ידוע מראש. אז המדד החשוב אינו מהירות של כל קריאה - אלא כמה זמן לוקח כל המשימה. עבור עומס עבודה כמוני, כוונון ביצוע פירושו לנצל שני מבטים: אחד מצטבר כדי להבחין שהשהיית המשימה מתדרדרת (מדדים), ואחד מפורט כדי למצוא איזו שלב באיזו שרשרת אחראי (עקבות). הרצאה זו היא מקרה מבחן של אופטימיזציה של אחד מעומסי עבודה כאילו על Nutanix Enterprise AI (NAI). השתמשנו ב-ClickHouse כ-backend יחיד עבור מדדים ועקבות, דרך Jaeger. זה אפשר לנו לעבור מ"משהו לא בסדר באופן מצטבר" ל"הנה המשימה המדויקת, והשלב המדויק, שמראה למה", מבלי לעבור בין מערכות! נסקור איך מודל ההורה-ילד של Jaeger מתייחס לשרשרת הקריאות של הסוכן. נתקדם איך בנינו את הנתונים הללו ב-ClickHouse, איך זה נשאר מהיר גם עם הרבה תגיות שונות כדי לסנן ולארגן, ואיך זיכרון השאילתות של ClickHouse שמר על השאילתות שלנו יקרות. לבסוף, נשתף מה מצאנו ותיקנו - ואיך אנחנו עכשיו מרחיבים את אותה גישה לעומסי עבודה של אינפרנס אחרים. דוברים: שיו ג'הה, מהנדס בכיר @ נוטניקס & , איישווריה ריימולה, MTS-4 @ נוטניקס פרטי המושב: המודל מקבל את הכותרות. מאגר הנתונים מנצח במרוץ כולם מתווכחים איזה מודל הוא הכי טוב. כמעט אף אחד לא מדבר על המערכת שמתחתיו. ב-F1, הנהג מקבל את הגביע, אבל המכונית מחליטה מי על הפודיום. בינה מלאכותית פרודוקטיבית פועלת באותה דרך: המודל הוא החלק שהמשתמשים רואים, בעוד שכבת הנתונים קובעת אם המוצר שלכם מרגיש מיידי או בלתי שמיש. הרצאה זו ממפה את מערכת F1 על מערכת בינה מלאכותית פרודוקטיבית: מודלים כמו נהגים, נתונים כדלק, יזום כטלקומוניקציה. לאחר מכן מציגה את כל הלולאה חיי: שאלות בשפה טבעית על נתוני מירוץ F1 דרך LibreChat, סוכן ששואל את ClickHouse דרך MCP, וכל בקשה מתועדת ב-Langfuse, עם השהיות, טוקנים, ועלות שניתנים לשאול כ-SQL פשוט. תצאו עם ידע כיצד לאכסן את מערכת הבינה המלאכותית שלכם כמו מנהל מירוצים, ולמה הצוותים שמנצחים הם אלו שבונים את כל המכונית. דוברים: סידהנט Agarwal, נציג קשרי מפתחים בכיר - APJ @ ClickHouse נתראה במפגש!