Агенти режиму будівельного коду

​Більшість агентів використовують інструменти, виконуючи один структурований виклик інструменту за раз. Модель обирає інструмент, чекає на результат, обирає наступний, і всі проміжні результати повертаються через її контекст. Коли кількість інструментів і кроків зростає, це стає дорогим, повільним і крихким. ​Режим коду змінює це. Замість того, щоб викликати інструменти по одному, агент пише код, який викликає їх як функції, виконує цей код у пісочниці і повертає лише те, що має значення, назад до моделі. Чому це добре працює на практиці: моделі тренуються на набагато більшій кількості коду, ніж сліди викликів інструментів, тому вони надійніше поєднують операції в мові, яку вже знають. Цикли, розгалуження, фільтрація та трансформації даних виконуються в пісочниці, а не як окремі раунди. Великі проміжні результати залишаються поза контекстом, а визначення інструментів завантажуються за запитом, а не всі одразу. Результат – агент, який виконує більше за крок і витрачає менше токенів на це. ​Очевидне занепокоєння – це надання моделі можливості писати та виконувати код. Ми вирішимо цю проблему за допомогою пісочниці Flyte: згенерований код може виконувати чистий контрольний потік, такий як цикли, розгалуження й з’єднання викликів інструментів, але не має доступу до файлової системи, мережі чи операційної системи. Фактичні виклики інструментів або MCP надсилаються до ізольованих контейнерних завдань. Ви отримуєте гнучкість, дозволяючи моделі писати код, не передаючи їй ключі до машини. ​На цьому практичному семінарі ми створимо агента режиму коду, який пише та виконує код для виклику інструментів, а потім розгорнемо його за простим інтерфейсом. Уся пайплайн працює на Flyte 2/Union, тому запуски є стійкими і відтворюваними, кроки кешуються, а той самий код масштабується від ноутбука до багатоядерного кластеру без переписування. ​До кінця ви матимете робочого агента режиму коду та повторюваний шаблон, який можна використовувати для своїх власних інструментів. ​Що ми розглянемо * ​Чому прямі виклики інструментів припиняють працювати в масштабах, і що змінює режим коду * ​Безпечне виконання коду, згенерованого моделлю, в пісковій пісочниці Flyte, з важкою роботою, відправленою до ізольованих завдань * ​Оркестрація за допомогою Flyte 2: кешовані кроки, стабільні запуски і виконання, яке масштабується * ​Розгортання агента з інтерфейсом, з шляхом до впровадження ​Що ви отримаєте * ​Робочого агента режиму коду, який пише та виконує код для використання інструментів * ​Повторюваний шаблон, який ви можете адаптувати для своїх власних інструментів і серверів MCP * ​Чітке розуміння, коли режим коду перевершує прямі виклики інструментів, а коли ні ​Для кого це ​ML та програмні інженери, які створюють агентів і хочуть більш ефективної, більш потужної альтернативи ланцюговим викликам інструментів. Чи є ви прототипом на роботі, оцінюєте інфраструктуру агента або створюєте проект для портфоліо, ви вийдете з кодом, який можете продовжувати розвивати. ​Організатор семінару: Сейдж Елліот, інженер штучного інтелекту в Union.ai