Uruchamianie Wytrzymałych Agentów w Produkcji

Pokazy agentów często zawodzą w momencie, gdy stają się użyteczne, z powodu awarii procesów, przerwanych wdrożeń lub braku wyzwalania zatwierdzeń. Warsztat ten pokazuje, jak przekształcić działające agentów LLM w trwałe przepływy robocze w produkcji. Nauczysz się, jak przechowywać stan poza procesem agenta, wznawiać agentów po awarii, powtarzać wywołania narzędzi, bezpiecznie wstrzymywać się na zatwierdzenia, inspekcjonować każdy krok wykonania oraz wdrażać prawdziwe aplikacje wieloagentowe na prawdziwej infrastrukturze. ​Omówimy następujące kroki: ​**● Zrozum, dlaczego pokazy agentów psują się w produkcji -** Zbadaj typowe tryby awarii agentów LLM, w tym utratę stanu, delikatne długotrwałe zadania, niestabilne wywołania narzędzi, niejasne ścieżki odzyskiwania i brak widoczności operacyjnej. ​**● Zaprojektuj agentów jako odporne przepływy robocze** - Naucz się, jak zbudować systemy agentowe, aby każdy krok był stanowy, obserwowalny, powtarzalny, i wykonalny zamiast być uwięzionym w pojedynczym delikatnym procesie. ​**● Zbuduj wzorzec agenta skierowanego na produkcję** - Przejdziemy przez przykładowego agenta, który wykorzystuje planowanie, wykonanie narzędzi, punkty decyzyjne, i usługi zewnętrzne, zachowując historię wykonania i stan w przypadku awarii. ​**● Dodaj kontrole niezawodności dla rzeczywistego wykonania** - Zobacz, jak ponowne próby, limity czasowe, logika kompensacyjna, zatwierdzenie przez człowieka, i kontynuacja oparte na zdarzeniach mogą uczynić agentów bezpieczniejszymi i bardziej niezawodnymi. ​**● Radź sobie z wymaganiami człowieka w pętli** - Dowiedz się, gdzie w przepływach roboczych agentów powinny być wprowadzone przeglądy, zatwierdzenia, eskalacje, lub korekty, nie przerywając ogólnego wykonania. ​**● Obserwuj, debuguj i poprawiaj zachowanie agenta** - Zrozum, co powinno być widoczne, gdy agent działa w produkcji, w tym ścieżki wykonania, decyzje pośrednie, nieudane kroki, odpowiedzi narzędzi, i próby odzyskiwania. ​**● Wyjdź z wielokrotnego użytku planu produkcji** - Na koniec, uczestnicy będą mieli praktyczny model mentalny do budowania trwałych agentów, który można dostosować do systemów RAG, automatyzacji przepływów roboczych, operacji klientów, zadań związanych z danymi, i aplikacji AI dla przedsiębiorstw. ​ ​Pod koniec warsztatu, uczestnicy powinni być w stanie wyjaśnić i wdrożyć warstwę wykonawczą, która oddziela sprytną pętlę agenta od niezawodnej usługi agenta. ​● Rozpoznawanie trybów awarii produkcji pętli agenta w procesie: śmierć procesu, wdrożenia, niestabilne narzędzia, wolne zatwierdzenia, brak historii i rozproszony stan. ​● Przekształcenie podstawowego agenta wywołującego narzędzia w trwały przepływ roboczy z stanem po stronie serwera i historią wykonania krok po kroku. ​● Dodanie kroku zatwierdzania przez człowieka, który może czekać bezpiecznie i wznowić bez utraty kontekstu. ​● Wykorzystanie śladów wykonania do debugowania wywołań narzędzi, wywołań LLM, czasu, użycia tokenów i awarii. ​● Zrozumienie, gdzie wykonanie trwałego agenta pasuje obok RAG, ewaluacji, monitorowania i oczekiwań projektu końcowego. ​ ​O prelegencie: Nicholas Lotz jest inżynierem DevSecOps i specjalistą ds. wsparcia technicznego, który dąży do usunięcia barier organizacyjnych, które uniemożliwiają inżynierom dostarczanie świetnego oprogramowania. Obecnie jest inżynierem marketingu technicznego w Voxel51 i freelance'owym konsultantem DevSecOps. Nick zbudował karierę na styku automatyzacji infrastruktury i edukacji produktowej, w tym w wpływowych rolach w GitLab i Harness. ​Jest autorem drugiego wydania „Automating DevOps with GitLab Pipelines” i uznawanym ekspertem w dziedzinie Kubernetes, Terraform i modernizacji CI/CD. Z unikalnym zainteresowaniem akademickim dotyczących zastosowania teorii sterowania w sieciach cyfrowych, koncentruje się na budowaniu transparentnych, bezpiecznych stosów oprogramowania, które rozwiązują rzeczywiste problemy biznesowe. ​ ​Ten post jest sponsorowany przez Orkes. Dziękujemy za wsparcie naszej społeczności! Dołącz do naszego Slacka: https://datatalks.club/slack.html