Запуск надежных агентов в производстве

Демонстрации агентов часто терпят неудачу в самый важный момент из-за сбоев процесса, прерванных развертываний или одобрений, которые никогда не срабатывают. Этот семинар покажет, как превратить работающие LLM-агенты в надежные рабочие процессы в производстве. Вы научитесь сохранять состояние за пределами процесса агента, возобновлять работу агентов после сбоя, повторно вызывать инструменты, безопасно приостанавливать для одобрений, контролировать каждый шаг выполнения и развертывать реальные многогранные приложения на реальной инфраструктуре. ​Мы рассмотрим следующие шаги: ​**● Понимание причин сбоев демонстраций агентов в производстве -** Исследуйте общие режимы отказов LLM-агентов, включая потерю состояния, хрупкие долгосрочные задачи, ненадежные вызовы инструментов, неясные пути восстановления и отсутствие операционной видимости. ​**● Проектирование агентов как надежных рабочих процессов** - Узнайте, как структурировать агентов, чтобы каждый шаг был состоянием, наблюдаемым, повторяемым и восстанавливаемым, а не находился в ловушке одного хрупкого процесса. ​**● Создание шаблона агента, ориентированного на производство** - Мы пройдем через пример агента, который использует планирование, выполнение инструментов, точки принятия решений и внешние сервисы, сохраняя историю выполнения и состояние при сбоях. ​**● Добавление элементов надежности для исполнения в реальном мире** - Посмотрите, как повторные попытки, тайм-ауты, логика компенсации, человеческое одобрение и событийная продолжительность могут сделать агентов более безопасными и надежными. ​**● Учет требований человека в процессе** - Узнайте, где следует вставлять обзор человека, одобрение, эскалацию или исправление в рабочие процессы агентов, не нарушая общий процесс выполнения. ​**● Наблюдение, отладка и улучшение поведения агентов** - Понимание того, что должно быть видимо, когда агент работает в производстве, включая пути выполнения, промежуточные решения, сбои, ответы инструментов и попытки восстановления. ​**● Уходите с многоразовой производственной схемой** - К концу участники должны будут иметь практическую модель для создания надежных агентов, которые могут быть адаптированы к системам RAG, автоматизации рабочих процессов, операциям с клиентами, задачам с данными и приложениям корпоративного ИИ. ​ ​К концу семинара участники должны уметь объяснять и внедрять уровень выполнения, который отделяет умный цикл агента от надежной службы агента. ​● Признавать производственные режимы отказов в циклах агентов: сбой процесса, развертывания, ненадежные инструменты, медленные одобрения, отсутствие истории и распределенное состояние. ​● Конвертировать базового агента для вызова инструментов в надежный рабочий процесс с серверным состоянием и историей исполнения на каждом шаге. ​● Добавить шаг одобрения человека, который может ожидать безопасно и возобновляться без потери контекста. ​● Использовать трассировки выполнения для отладки вызовов инструментов, вызовов LLM, тайминга, использования токенов и сбоев. ​● Понимать, где помещается выполнение надежного агента наряду с RAG, оценкой, мониторингом и ожиданиями окончательного проекта. ​ ​О спикере: Николас Лотц - инженер DevSecOps и специалист по техническому включению, стремящийся устранить организационные барьеры, мешающие инженерам поставлять отличное программное обеспечение. В настоящее время он является техническим маркетинговым инженером в Voxel51 и независимым консультантом по DevSecOps, Ник построил карьеру на пересечении автоматизации инфраструктуры и образовательных продуктов, включая значимые роли в GitLab и Harness. ​Он автор второго издания книги «Автоматизация DevOps с помощью GitLab Pipelines» и признанный эксперт в Kubernetes, Terraform и модернизации CI/CD. С уникальным академическим интересом к применению теории управления к цифровым сетям он сосредоточен на создании прозрачных, безопасных программных стеков, которые решают реальные бизнес-проблемы. ​ ​Этот пост спонсируется Orkes. Спасибо за поддержку нашего сообщества! Присоединяйтесь к нашему Slack: https://datatalks.club/slack.html