Агенты режима строительного кодекса

Большинство агентов используют инструменты, вызывая по одному структурированному вызову инструмента за раз. Модель выбирает инструмент, ждет результата, затем выбирает следующий, и каждый промежуточный результат возвращается через ее контекст. Поскольку количество инструментов и шагов увеличивается, это становится дорогим, медленным и ненадежным. Режим кода переворачивает это. Вместо того чтобы вызывать инструменты один за другим, агент пишет код, который вызывает их как функции, выполняет этот код в песочнице и возвращает только то, что имеет значение, обратно модели. Почему это хорошо работает на практике: модели обучены на гораздо большем количестве кода, чем следы вызовов инструментов, поэтому они надежнее составляют операции на языке, который они уже знают. Циклы, разветвления, фильтрация и преобразования данных происходят в песочнице, а не в виде отдельных раунд-трипов. Большие промежуточные результаты остаются вне окна контекста, а определения инструментов загружаются по мере необходимости, а не все сразу. Результат - агент, который делает больше за шаг и тратит меньше токенов на это. Очевидная проблема заключается в том, что модель может писать и запускать код. Мы справимся с этим с помощью оркестратора Flyte в песочнице: сгенерированный код может выполнять чистый контроль потока, такой как циклы, разветвления и связывание вызовов инструментов, но не имеет доступа к файловой системе, сети или ОС. Фактические вызовы инструментов или MCP распределяются на изолированные контейнерные задачи. Вы получаете гибкость, позволяя модели писать код, не передавая ей ключи от машины. В этом практическом семинаре мы создадим агента в режиме кода, который пишет и выполняет код для вызова инструментов, затем развернем его за простой пользовательским интерфейсом. Вся цепочка выполняется на Flyte 2/Union, поэтому запуски остаются надежными и воспроизводимыми, шаги кэшируются, и один и тот же код масштабируется от ноутбука до многонодного кластера без переписывания. К концу семинара у вас будет работающий агент в режиме кода и повторяемый шаблон, который вы сможете адаптировать к своим собственным инструментам. Что мы рассмотрим * Почему прямые вызовы инструментов не работают в больших масштабах, и что меняет режим кода * Безопасный запуск сгенерированного моделью кода в песочнице Flyte, с тяжелой работой, распределенной на изолированные задачи * Оркестрация с Flyte 2: кэшированные шаги, надежные запуски и масштабируемое выполнение * Развертывание агента с пользовательским интерфейсом, с путями к производству Что вы получите * Работающий агент в режиме кода, который пишет и запускает код для использования инструментов * Повторяемый шаблон, который вы можете адаптировать к своим инструментам и серверам MCP * Четкое понимание, когда режим кода лучше прямых вызовов инструментов, а когда - нет Для кого это Инженеры ML и ПО, создающие агентов, которые ищут более эффективную и более мощную альтернативу последовательности вызовов инструментов. Независимо от того, разрабатываете ли вы прототип на работе, оцениваете инфраструктуру агента или создаете проект для портфолио, вы уйдете с кодом, который можете продолжать расширять. Ведущий - Сэйдж Эллиот, AI-инженер в Union.ai