Agenci w Produkcji

Agenci w Produkcji Panel i wieczór demonstracyjny na temat tego, co naprawdę jest potrzebne do skutecznego wdrożenia agentów AI skierowanych do klienta oraz ich utrzymania. Panel Co będziemy omawiać: adopcję w przedsiębiorstwach, przypadki użycia, zaufanie i bezpieczeństwo oraz kierunek, w którym zmierza stack w ciągu najbliższego roku. Paneliści Vyas Sekar, profesor inżynierii elektrycznej i komputerowej na Uniwersytecie Carnegie Mellon (CyLab); współzałożyciel Rockfish Data; główny naukowiec w Conviva. Vyas działa na styku bezpieczeństwa, sieci i systemów dużej skali, w tym w obszarze autonomii cybernetycznej CMU na rzecz obrony systemów w erze AI. Baolu Shen, dyrektor produktu w DoorDash, rozwój oparty na AI. Wcześniej kierownik produktu w TikTok i LinkedIn. Baolu to doświadczony lider produktu z ponad dziesięcioletnim doświadczeniem w prowadzeniu innowacji i rozwoju w wiodących firmach technologicznych Doliny Krzemowej. Kartik Talamadupula, wybitny architekt (AI) w Oracle. Wcześniej szef AI w Wand AI, dyrektor badań AI w Symbl.ai oraz starszy naukowiec w IBM Research. Praca Kartika koncentruje się na AI zorientowanej na wnioskowanie, dużych modelach językowych oraz orkiestracji inteligentnych agentów do automatyzacji na poziomie przedsiębiorstwa. Moderator - Arvind Murali Mohan, Realm Labs. Demonstracje Satya z Scalekit. Autoryzacja i infrastruktura działań dla programistów AI. W tej demonstracji zaprezentują, jak programiści mogą obsługiwać autoryzację na poziomie użytkownika, cykle życia tokenów i wywoływanie narzędzi bez budowania samej infrastruktury, co ułatwia tworzenie agentów, którzy mogą niezawodnie podejmować działania w produkcji. Devanshi z Headroom. Headroom Labs powstało z ich biblioteki open-source, Headroom (65K+ gwiazdek na GitHubie, 2.6M+ pobrań). Budują, aby każdy token miał znaczenie dla agentów przedsiębiorstw: kompresja, pamięć podręczna i wgląd w to, co każdy agent czyta, zapamiętuje i za co płaci przy każdych wywołaniach modeli. Shantanu z Prodigal. Agenci AI do obsługi pożyczek i windykacji. Szczegóły wkrótce. Saurabh z Realm Labs. Ochrona runtime dla agentów AI. Ich demonstracja obejmuje, jak zadania agentów o długim horyzoncie mogą niepowodować w subtelnych sposób, w tym fałszywe zobowiązania, pewnie błędne odpowiedzi i stopniowe dryfowanie tematu, a następnie pokazuje, jak czytanie łańcucha myśli modelu poprzez głęboką inspekcję neuronową sprawia, że te niepowodzenia stają się obserwowalne i kontrolowalne w czasie rzeczywistym. Agenda