Дані зустрічаються з ШІ

Системи даних еволюціонують завдяки ШІ. ШІ не лише змінює способи, якими ми будуємо, запитуємо, шукаємо та спостерігаємо за сучасними платформами даних, але й приносить зовсім нові типи даних і навантажень в цю картину. Приєднуйтесь до нас вранці для обговорення бази даних і ШІ, коли інженери з громади поділяться практичним досвідом об'єднання даних і ШІ. Від пошуку правильного способу дослідження мільярдів векторів до перетворення баз даних в розмовні системи до розуміння того, що потрібно для спостереження за сучасними платформами ШІ - ця зустріч буде досліджувати системи, які тихо підтримують революцію ШІ. Якщо ви будуєте ШІ-додатки, працюєте з інфраструктурою даних або просто цікаві про те, що відбувається, коли Дані Зустрічаються з ШІ, ця зустріч для вас. Не пропустіть! RSVP і забезпечте своє місце! Агентa Що очікувати Очікуйте глибокі технічні доповіді та реальні історії інженерії навколо перетворення інфраструктури даних та ШІ. Очікуйте практичних інсайтів, глибоких заглиблень в архітектуру та уроків з побудови та експлуатації цих систем у реальному світі. Ми завершуємо мережевим спілкуванням на обід, надаючи вам шанс обмінятися ідеями та досвідом з іншими інженерами даних, ентузіастами бази даних, платформеними інженерами та творцями ШІ. Принесіть свої запитання, свій досвід і свою цікавість до систем, що стоять за ШІ. *** Деталі сесії: Спілкування з вашими даними: за межами SQL Приєднуйтесь до нас для практичного погляду на побудову розмовного інтерфейсу на природній мові для баз даних з нуля! Ми поглинемо в те, як ми інтегрували цю систему з ClickHouse, щоб зробити складне дослідження даних легким для різних інженерних та бізнес-ролей. Крім демонстрацій функцій, ми поділимося реальними проблемами, які вирішує цей підхід, основними інженерними викликами, з якими ми зіткнулися під час його побудови, і ключовими технічними уроками, які ми отримали. Якщо ви цікаві про інструменти бази даних на основі ШІ, інтеграції LLM або досвіду користувачів аналітики, ви отримаєте дієві інсайти для своїх власних проектів. Доповідачі: Сачідананда Махарана, SMTS @ Nutanix і Пуніт Субашчандра, MTS-3 @ Nutanix Деталі сесії: Пошук векторів: чи дійсно вам потрібна ще одна база даних? Пошук векторів швидко став ключовим будівельним блоком для ШІ-додатків - але чи завжди це означає впровадження нової бази даних? Ця доповідь проведе подорож через те, що таке пошук векторів, як він еволюціонував і де він дійсно додає цінність. Ми дослідимо реальні випадки використання, які виграють від пошуку векторів, компроміси, пов'язані з вибором векторної бази даних, і як оцінити, чи спеціалізована векторна база даних - чи існуюча база даних, така як PostgreSQL або ClickHouse - підходить для ваших навантажень. Ми розглянемо, які можливості вже надають існуючі бази даних для пошуку векторів, де вони працюють добре і де спеціалізована векторна база даних може запропонувати значні переваги. Доповідачі: Пранава Мехта, MTS -4 @ Nutanix і Кайлаш Кеджривал, MTS-1 @ Nutanix Деталі сесії: Оптимізація висновків з ClickHouse, заснованими на спостережливості Продуктивність висновків є специфічною для навантаження. Завдання з високим пропуском обробки вимагає загальної кількості токенів, оброблених за секунду, і може терпіти повільний перший токен. Помічник коду оптимізує час до першого токена замість цього, оскільки розробник стежить за курсором. Помічники коду також повторно використовують контекст через запити - той же системний запит, той же файл. Це робить кешування прерахункових токенів одним із найбільших важелів щодо витрат і затримки. Агентні, багатоступеневі завантаження, які викликають інструменти, виглядають по-іншому. Один запит перетворюється на ланцюг викликів: спланувати, викликати інструмент, повторно інжектувати результат, повторити. Довжина ланцюга заздалегідь невідома. Тож метрика, яка має значення, - це не швидкість будь-якого одного виклику - це те, скільки часу займає все завдання. Для навантаження, сформованого так, налаштування продуктивності означає використання двох поглядів: агрегатного, щоб виявити, що затримка завдання зменшується (Метрики), та детального, щоб знайти, який етап в якому ланцюзі відповідальний (Сліди). Ця доповідь є випадковим дослідженням оптимізації одного такого агентного навантаження на Nutanix Enterprise AI (NAI). Ми використали ClickHouse як єдину платформу для обох метрик і слідів через Jaeger. Це дозволило нам перейти від "щось не так в агрегаті" до "ось точне завдання та точний крок, що показує, чому", без переключення систем! Ми розглянемо, як модель батька-дитини Jaeger відображається на ланцюг викликів агента. Ми пройдемо через те, як ми структуризували ці дані в ClickHouse, як вони залишалися швидкими, навіть при багатьох різних тегах для фільтрації та групування, і як кеш запитів ClickHouse зберіг наші повторні запитування для налагодження дешевими. Нарешті, ми поділимося, що ми знайшли та виправили - і як ми тепер впроваджуємо той же підхід до інших завантажень висновків. Доповідачі: Шив Джха, старший інженер @ Nutanix і Айшварія Раймула, MTS-4 @ Nutanix Деталі сесії: Модель отримує заголовки. База даних перемагає гонку Всі сперечаються про те, яка модель найкраща. Майже ніхто не говорить про систему під ним. У F1 водій отримує трофей, але автомобіль вирішує, хто на подіумі. Продуктивний ШІ працює так само: модель - це частина, яку бачать користувачі, тоді як шар даних вирішує, чи відчуває ваш продукт швидкість або не придатний. Ця доповідь відображає сітку F1 на продукційну систему ШІ: моделі як водії, дані як паливо, спостережливість як телеметрія. Тоді вона показує повний цикл в режимі реального часу: природні мовні запитання про дані гонок F1 через LibreChat, агент, що запитує ClickHouse через MCP, і кожен запит відслідковується в Langfuse, з затримкою, токенами та витратами, які можна запитати як простий SQL. Ви покинете зустріч, знаючи, як інструментувати вашу систему ШІ, як гоночний інженер, і чому команди, які виграють, - це ті, що будуємо весь автомобіль. Доповідачі: Сіддгант Агарвал, старший адвокат у справах розробників - APJ @ ClickHouse До зустрічі!