Agentes del Modo de Código de Construcción

La mayoría de los agentes utilizan herramientas emitiendo una llamada de herramienta estructurada a la vez. El modelo elige una herramienta, espera el resultado, elige la siguiente y cada resultado intermedio fluye de nuevo a través de su contexto. A medida que aumenta el número de herramientas y pasos, eso se vuelve costoso, lento y frágil. El modo de código invierte esto. En lugar de llamar a las herramientas una a la vez, el agente escribe código que las llama como funciones, ejecuta ese código en un entorno seguro y devuelve solo lo que importa de vuelta al modelo. Por qué esto funciona bien en la práctica: los modelos están entrenados en mucho más código que trazas de llamadas a herramientas, por lo que componen operaciones de manera más confiable en un lenguaje que ya conocen. Los bucles, la ramificación, el filtrado y las transformaciones de datos ocurren en el entorno seguro en lugar de ser viajes de ida y vuelta separados. Los resultados intermedios grandes se mantienen fuera de la ventana de contexto, y las definiciones de herramientas se cargan bajo demanda en lugar de todo de antemano. El resultado es un agente que hace más por paso y gasta menos tokens al hacerlo. La preocupación obvia es permitir que un modelo escriba y ejecute código. Abordaremos eso con el orquestador seguro de Flyte: el código generado puede realizar flujos de control puros como bucles, ramificación y conexión de llamadas a herramientas, pero no tiene acceso al sistema de archivos, la red o el sistema operativo. Las llamadas a herramientas o MCP reales se envían a tareas de contenedor aisladas. Obtienes la flexibilidad de permitir que un modelo escriba código sin entregarle las llaves de la máquina. En este taller práctico, construiremos un agente en modo código que escribe y ejecuta código para llamar a herramientas, y luego lo desplegaremos detrás de una interfaz simple. Toda la canalización se ejecuta en Flyte 2/Union, por lo que las ejecuciones son duraderas y reproducibles, los pasos se almacenan en caché y el mismo código se escala desde una laptop hasta un clúster de múltiples nodos sin reescrituras. Al final, tendrás un agente en modo código que funciona y un patrón reutilizable que puedes apuntar a tus propias herramientas. Lo que cubriremos * Por qué la llamada directa a herramientas se descompone a gran escala y qué cambia el modo de código * Ejecutar código generado por el modelo de manera segura en el orquestador seguro de Flyte, con trabajo pesado despachado a tareas aisladas * Orquestar con Flyte 2: pasos en caché, ejecuciones duraderas y ejecución que escala * Desplegar el agente con una interfaz de usuario, con un camino hacia la producción Lo que llevarás contigo * Un agente en modo código que escribe y ejecuta código para usar herramientas * Un patrón reutilizable que puedes adaptar a tus propias herramientas y servidores MCP * Un sentido claro de cuándo el modo de código supera a la llamada directa a herramientas y cuándo no Para quién es Ingenieros de ML y software que construyen agentes que quieren una alternativa más eficiente y capaz para encadenar llamadas a herramientas. Ya sea que estés prototipando en el trabajo, evaluando infraestructura de agentes o construyendo un proyecto de portafolio, saldrás con un código que puedes seguir extendiendo. Presentado por Sage Elliott, ingeniero de IA en Union.ai