Dane spotykają się z AI

Systemy danych ewoluują wraz z AI. AI nie tylko zmienia sposób, w jaki budujemy, zapytujemy, wyszukujemy i obserwujemy nowoczesne platformy danych, ale również wprowadza całkowicie nowe typy danych i obciążeń do obrazu. Dołącz do nas na poranek poświęcony bazom danych i AI, podczas gdy inżynierowie z naszej społeczności dzielą się praktycznymi doświadczeniami łączenia danych i AI. Od znalezienia odpowiedniego sposobu na przeszukiwanie miliardów wektorów, przez uczynienie baz danych rozmownymi, po zrozumienie, co jest potrzebne do obserwacji nowoczesnych platform AI - to spotkanie zbada systemy cichutko napędzające rewolucję AI. Niezależnie od tego, czy budujesz aplikacje AI, pracujesz nad infrastrukturą danych, czy po prostu jesteś ciekawy, co się dzieje, gdy Dane spotykają się z AI, to spotkanie jest dla Ciebie. Nie przegap! Zarejestruj się i zabezpiecz swoje miejsce! Agenda Czego się spodziewać Oczekuj głębokich technicznych prezentacji i historii inżynieryjnych z rzeczywistego świata na temat przecięcia infrastruktury danych i AI. Oczekuj praktycznych spostrzeżeń, szczegółowych analiz architektury oraz lekcji z budowania i prowadzenia tych systemów w rzeczywistości. Na zakończenie spotkamy się na lunchu, dając Ci szansę na wymianę pomysłów i doświadczeń z innymi inżynierami danych, entuzjastami baz danych, inżynierami platform i twórcami AI. Przynieś swoje pytania, swoje doświadczenia i swoją ciekawość na temat systemów za AI. *** Szczegóły sesji: Rozmowa z Twoimi Danymi: Poza SQL Dołącz do nas, aby zobaczyć praktyczne podejście do budowania konwersacyjnego interfejsu językowego dla baz danych od podstaw! Zanurzymy się w to, jak zintegrowaliśmy ten system z ClickHouse, aby ułatwić złożoną eksplorację danych w różnych rolach inżynieryjnych i biznesowych. Poza demonstracjami funkcji, podzielimy się rzeczywistymi problemami, które to podejście rozwiązuje, kluczowymi wyzwaniami inżynieryjnymi, które napotkaliśmy podczas jego budowy, oraz ważnymi lekcjami technicznymi. Niezależnie od tego, czy jesteś ciekawy narzędzi baz danych napędzanych AI, integracji LLM, czy doświadczenia użytkownika w zakresie analityki, wyjdziesz z konkretnymi spostrzeżeniami do swoich własnych projektów. Prelegenci: Sachidananda Maharana, SMTS @ Nutanix i Punith Subashchandra, MTS-3 @ Nutanix Szczegóły sesji: Przeszukiwanie Wektorów: Czy naprawdę potrzebujesz kolejnej Bazy Danych? Przeszukiwanie wektorów szybko stało się kluczowym elementem aplikacji AI - ale czy zawsze oznacza to wprowadzenie nowej bazy danych? Ta prezentacja zabierze nas w podróż przez to, czym jest przeszukiwanie wektorów, jak się rozwinęło i gdzie naprawdę dodaje wartości. Zbadamy rzeczywiste przypadki użycia, które korzystają z przeszukiwania wektorów, kompromisy związane z wyborem bazy danych wektorowej oraz jak ocenić, czy specjalistyczna baza danych wektorowa - czy istniejąca baza danych jak PostgreSQL czy ClickHouse - jest odpowiednia dla Twojego obciążenia. Przyjrzymy się, jakie możliwości już istniejące bazy danych oferują dla przeszukiwania wektorów, gdzie sprawdzają się dobrze, a gdzie dedykowana baza danych wektorowa może zaoferować znaczące korzyści. Prelegenci: Pranav Mehta, MTS-4 @ Nutanix i Kailash Kejriwal, MTS-1 @ Nutanix Szczegóły sesji: Optymalizacja Wnioskowania z Kliknąć-Obsługą Obserwacyjności Wydajność wnioskowania jest specyficzna dla obciążenia. Zlecenie podsumowujące o wysokiej przepustowości dba o całkowitą liczbę przetworzonych tokenów na sekundę i może tolerować wolne pierwsze tokeny. Asystent programowania optymalizuje się natomiast pod kątem czasu na pierwszy token, ponieważ programista obserwuje kursor. Asystenci kodu wielokrotnie wykorzystują kontekst w różnych zapytaniach - ten sam systemowy znak, ten sam plik. To sprawia, że buforowanie prefiksów jest jednym z największych dźwigni w zakresie kosztów i opóźnień. Obciążenia wywołujące różne kroki wyglądają inaczej. Jedno zapytanie przekształca się w łańcuch wywołań: zaplanuj, wywołaj narzędzie, wstrzyknij wynik, powtórz. Długość łańcucha nie jest znana z góry. Dlatego metryka, która się liczy, nie jest szybkość pojedynczego wywołania - chodzi o to, jak długo trwa całe zadanie. Dla obciążenia o takim kształcie, dostosowywanie wydajności oznacza korzystanie z dwóch widoków: agregatowego jednego, by zauważyć, że opóźnienie zadania się pogarsza (metryki), oraz szczegółowego jednego, aby znaleźć, który krok w którym łańcuchu jest odpowiedzialny (ślady). Ta prezentacja to studium przypadku optymalizacji jednego takiego obciążenia wywołującego na Nutanix Enterprise AI (NAI). Użyliśmy ClickHouse jako jednego zaplecza dla zarówno metryk, jak i śladów, przez Jaeger. To pozwoliło nam przejść od "coś jest nie tak w agregacie" do "oto dokładne zadanie i dokładny krok, który pokazuje dlaczego", bez przełączania systemów! Omówimy, jak model span parent-child Jaegera odnosi się do łańcucha wywołań agenta. Przejdziemy przez to, jak ustrukturyzowaliśmy te dane w ClickHouse, jak pozostało ono szybkie nawet przy wielu różnych tagach do filtrowania i grupowania oraz jak pamięć podręczna zapytań ClickHouse utrzymała nasze powtarzające się zapytania debugujące tanie. Na koniec podzielimy się tym, co odkryliśmy i naprawiliśmy - oraz jak teraz wdrażamy to samo podejście w innych obciążeniach wnioskowania. Prelegenci: Shiv Jha, Inżynier Nadzorujący @ Nutanix i Aishwarya Raimule, MTS-4 @ Nutanix Szczegóły sesji: Model zdobywa nagrody. Baza Danych wygrywa wyścig Wszyscy kłócą się o to, który model jest najlepszy. Prawie nikt nie mówi o systemie pod nim. W F1 to kierowca zgarnia trofeum, ale to samochód decyduje, kto stanie na podium. Produkcja AI działa w ten sam sposób: model to ta część, którą widzą użytkownicy, podczas gdy warstwa danych decyduje, czy Twój produkt wydaje się natychmiastowy, czy bezużyteczny. Ta prezentacja porównuje siatkę F1 z systemem produkcyjnym AI: modele jako kierowcy, dane jako paliwo, obserwowalność jako telemetria. Następnie pokazuje pełną pętlę na żywo: pytania w naturalnym języku dotyczące danych z wyścigów F1 przez LibreChat, agent zapytujący ClickHouse za pośrednictwem MCP, a każde zapytanie śledzone w Langfuse, przy czym opóźnienia, tokeny i koszty można zapytać w prostym SQL. Opuścisz spotkanie, wiedząc, jak zainstrumentować swój system AI jak inżynier wyścigowy i dlaczego zespoły, które wygrywają, to te, które budują cały samochód. Prelegent: Siddhant Agarwal, Starszy Adwokat ds. Relacji deweloperskich - APJ @ ClickHouse Do zobaczenia na spotkaniu!