Agentes do Modo de Código de Construção

A maioria dos agentes usa ferramentas emitindo uma chamada de ferramenta estruturada por vez. O modelo escolhe uma ferramenta, espera pelo resultado, escolhe a próxima e todos os resultados intermediários voltam através de seu contexto. À medida que o número de ferramentas e etapas cresce, isso se torna caro, lento e frágil. O modo de código inverte isso. Em vez de chamar ferramentas uma a uma, o agente escreve código que as chama como funções, executa esse código em um sandbox e retorna apenas o que importa de volta ao modelo. Por que isso funciona bem na prática: os modelos são treinados em muito mais código do que rastros de chamadas de ferramentas, portanto, eles compõem operações de forma mais confiável em uma linguagem que já conhecem. Laços, ramificações, filtragens e transformações de dados ocorrem no sandbox em vez de como viagens de ida e volta separadas. Resultados intermediários grandes ficam fora da janela de contexto, e definições de ferramentas são carregadas sob demanda em vez de todas de uma vez. O resultado é um agente que faz mais por passo e gasta menos tokens para isso. A preocupação óbvia é permitir que um modelo escreva e execute código. Vamos lidar com isso com o orquestrador em sandbox do Flyte: o código gerado pode fazer controle de fluxo puro como laços, ramificações e conectar chamadas de ferramentas, mas não tem acesso ao sistema de arquivos, rede ou ao SO. As chamadas reais de ferramentas ou MCP são despachadas para tarefas isoladas em contêineres. Você obtém a flexibilidade de deixar um modelo escrever código sem entregar as chaves da máquina. Neste workshop prático, construiremos um agente em modo de código que escreve e executa código para chamar ferramentas, e então o implantaremos atrás de uma interface de usuário simples. Todo o pipeline roda no Flyte 2/Union, então as execuções são duráveis e reproduzíveis, os passos são armazenados em cache e o mesmo código escala de um laptop para um cluster multi-nó sem reescritas. Ao final, você terá um agente em modo de código funcionando e um padrão reutilizável que pode apontar para suas próprias ferramentas. O que cobriremos * Por que chamadas diretas de ferramentas falham em escala e o que o modo de código muda * Executando código gerado por modelo com segurança no orquestrador em sandbox do Flyte, com trabalho pesado despachado para tarefas isoladas * Orquestrando com Flyte 2: passos em cache, execuções duráveis e execução que escala * Implantando o agente com uma interface de usuário, com um caminho para produção O que você levará * Um agente em modo de código funcionando que escreve e executa código para usar ferramentas * Um padrão reutilizável que você pode adaptar para suas próprias ferramentas e servidores MCP * Uma clara noção de quando o modo de código supera as chamadas diretas de ferramentas e quando não supera Para quem é Engenheiros de ML e software que estão construindo agentes e que desejam uma alternativa mais eficiente e mais capaz aos encadeamentos de chamadas de ferramentas. Se você estiver prototipando no trabalho, avaliando infraestrutura de agentes ou construindo um projeto de portfólio, você sairá com código que pode continuar estendendo. Apresentado por Sage Elliott, Engenheiro de IA na Union.ai