Agents de mode du code de construction

La plupart des agents utilisent des outils en émettant un appel d'outil structuré à la fois. Le modèle choisit un outil, attend le résultat, choisit le suivant, et chaque résultat intermédiaire passe à nouveau par son contexte. À mesure que le nombre d'outils et d'étapes augmente, cela devient coûteux, lent et fragile. Le mode code inverse cela. Au lieu d'appeler des outils un par un, l'agent écrit du code qui les appelle comme des fonctions, exécute ce code dans un environnement sécurisé, et renvoie uniquement ce qui importe au modèle. Pourquoi cela fonctionne bien dans la pratique : les modèles sont formés sur bien plus de code que sur des traces d'appels d'outils, ils composent donc des opérations de manière plus fiable dans un langage qu'ils connaissent déjà. Les boucles, les branches, le filtrage et les transformations de données se produisent dans l'environnement sécurisé au lieu de nécessiter des allers-retours séparés. De grands résultats intermédiaires restent en dehors de la fenêtre de contexte, et les définitions d'outils se chargent à la demande plutôt que toutes à l'avance. Le résultat est un agent qui en fait plus par étape et dépense moins de jetons pour ce faire. L'inquiétude évidente est de laisser un modèle écrire et exécuter du code. Nous gérerons cela avec l'orchestrateur isolé de Flyte : le code généré peut réaliser un contrôle de flux pur tel que des boucles, des branches et le câblage d'appels d'outils, mais n'a pas accès au système de fichiers, au réseau ou au système d'exploitation. Les véritables appels d'outils ou de MCP sont envoyés vers des tâches de conteneur isolées. Vous bénéficiez de la flexibilité de laisser un modèle écrire du code sans lui donner les clés de la machine. Dans cet atelier pratique, nous construirons un agent en mode code qui écrit et exécute du code pour appeler des outils, puis le déploiera derrière une interface utilisateur simple. L'ensemble du pipeline fonctionne sur Flyte 2/Union, de sorte que les exécutions sont durables et reproductibles, les étapes sont mises en cache, et le même code s'adapte d'un ordinateur portable à un cluster multi-nœuds sans réécriture. À la fin, vous disposerez d'un agent en mode code fonctionnel et d'un modèle réutilisable que vous pourrez appliquer à vos propres outils. Ce que nous aborderons * Pourquoi l'appel direct aux outils échoue à grande échelle, et ce que le mode code change * Exécution sécurisée de code généré par des modèles dans l'orchestrateur surveillé de Flyte, avec un travail intensif dispatché vers des tâches isolées * Orchestration avec Flyte 2 : étapes mises en cache, exécutions durables, et exécution évolutive * Déploiement de l'agent avec une interface utilisateur, avec un chemin vers la production Ce que vous emporterez avec vous * Un agent en mode code fonctionnant qui écrit et exécute du code pour utiliser des outils * Un modèle réutilisable que vous pouvez adapter à vos propres outils et serveurs de MCP * Une claire compréhension des moments où le mode code est préférable à l'appel direct d'outils, et où il ne l'est pas Pour qui c'est destiné Ingénieurs en ML et en logiciels construisant des agents qui souhaitent une alternative plus efficace et plus performante à la chaîne d'appels d'outils. Que vous prototypiez au travail, évaluiez une infrastructure d'agents, ou construisiez un projet de portfolio, vous repartirez avec du code que vous pourrez continuer à étendre. Présenté par Sage Elliott, Ingénieur IA chez Union.ai