Запуск довговічних агентів у виробництві

Демонстрації агентів часто зазнають невдачі в той момент, коли вони стають корисними, через аварії процесу, перервані розгортання або затримки з ухваленням рішень. Цей семінар демонструє, як перетворити працюючі LLM-агенти на довговічні виробничі робочі процеси. Ви дізнаєтеся, як зберігати стан поза процесом агента, відновлювати агентів після збоїв, повторювати виклики інструментів, безпечно паузувати для затверджень, перевіряти кожен крок виконання та розгортати реальні багатогранні додатки на реальну інфраструктуру. ​Ми охопимо такі кроки: ​**● Зрозуміти, чому демонстрації агентів ламаються у виробництві -** Досліджуйте поширені режими збоїв LLM-агентів, включаючи втрату стану, крихкі тривалі задачі, ненадійні виклики інструментів, неясні шляхи відновлення та відсутність оперативної видимості. ​**● Проектуйте агентів як довговічні робочі процеси** - Дізнайтеся, як структурувати агентні системи так, щоб кожен крок був зберігаючим стан, спостережуваним, повторюваним і відновлювальним замість того, щоб залишатися в одній крихкій процесі. ​**● Створіть паттерн агента для виробництва** - Ми проведемо через приклад агента, що використовує планування, виконання інструментів, точки прийняття рішень та зовнішні сервіси, зберігаючи історію виконання та стан під час збоїв. ​**● Додайте контролі надійності для реального виконання** - Дивіться, як повтори, тайм-аути, логіка компенсації, людське затвердження та події-тонка продовження можуть зробити агентів безпечнішими та надійнішими. ​**● Відповідати на вимоги людини в циклі** - Дізнайтеся, де людська перевірка, затвердження, ескалація або виправлення повинні бути вставлені в робочі процеси агентів без порушення загального виконання. ​**● Спостерігайте, дебагуйте та покращуйте поведінку агентів** - Зрозумійте, що має бути видимим, коли агент працює у виробництві, включаючи шляхи виконання, проміжні рішення, невдалі кроки, відповіді інструментів та спроби відновлення. ​**● Вийти з повторюваним виробничим шаблоном** - До кінця учасники отримають практичну модель для створення довговічних агентів, яку можна адаптувати до систем RAG, автоматизації робочих процесів, операцій з клієнтами, завдань даних та підприємницьких AI-додатків. ​ ​До кінця семінару учасники повинні бути в змозі пояснити та реалізувати шар виконання, який відокремлює розумний цикл агента від надійної агентської служби. ​● Визначити режими збоїв у виробництві циклів агентів: смерть процесу, розгортання, ненадійні інструменти, повільне затвердження, відсутня історія та розподілений стан. ​● Перетворити базового агента, що викликає інструменти, на довговічний робочий процес із серверним станом та історією виконання крок за кроком. ​● Додати крок людського затвердження, який може безпечно чекати і відновлюватися без втрати контексту. ​● Використати сліди виконання для дебагу викликів інструментів, викликів LLM, часу, використання токенів і збоїв. ​● Зрозуміти, де довговічне виконання агентів розташовується поряд з RAG, оцінюванням, моніторингом та очікуваннями підсумкового проєкту. ​ ​Про спікера: Ніколас Лотц - інженер DevSecOps і спеціаліст з технічного навчання, який прагне усунути організаційні бар'єри, які заважають інженерам випускати чудове програмне забезпечення. Наразі є технічним маркетинговим інженером у Voxel51 та фріланс-консультантом з DevSecOps, Нік побудував кар'єру на перетині автоматизації інфраструктури та освіти продукту, включаючи впливові ролі в GitLab та Harness. ​Він є автором другого видання