Bauordnungsmodus-Agenten

Die meisten Agenten verwenden Werkzeuge, indem sie einen strukturierten Werkzeugaufruf nach dem anderen ausführen. Das Modell wählt ein Werkzeug aus, wartet auf das Ergebnis, wählt das nächste aus, und jedes Zwischenergebnis fließt durch seinen Kontext zurück. Wenn die Anzahl der Werkzeuge und Schritte wächst, wird das teuer, langsam und anfällig. Der Code-Modus kehrt dies um. Anstatt Werkzeuge einzeln aufzurufen, schreibt der Agent Code, der sie als Funktionen aufruft, führt diesen Code in einem Sandbox-Umgebung aus und gibt nur das zurück, was für das Modell wichtig ist. Warum das in der Praxis gut funktioniert: Modelle werden auf viel mehr Code als auf Werkzeugaufruf-Spuren trainiert, sodass sie Operationen zuverlässiger in einer Sprache kombinieren, die sie bereits kennen. Schleifen, Verzweigungen, Filterung und Datenumwandlungen erfolgen in der Sandbox und nicht als separate Hin- und Rückreisen. Große Zwischenergebnisse bleiben aus dem Kontextfenster und Werkzeugdefinitionen werden bei Bedarf geladen, anstatt alles auf einmal. Das Resultat ist ein Agent, der pro Schritt mehr erledigt und dabei weniger Tokens benötigt. Die offensichtliche Sorge besteht darin, einem Modell zu erlauben, Code zu schreiben und auszuführen. Das werden wir mit Flytes sandboxed Orchestrator lösen: Der generierte Code kann reine Kontrollflüsse wie Schleifen, Verzweigungen und die Verkabelung von Werkzeugaufrufen durchführen, hat jedoch keinen Zugriff auf das Dateisystem, das Netzwerk oder das Betriebssystem. Die eigentlichen Werkzeug- oder MCP-Aufrufe werden an isolierte Containeraufgaben weitergeleitet. Sie erhalten die Flexibilität, einem Modell das Schreiben von Code zu erlauben, ohne ihm die Schlüssel zur Maschine zu übergeben. In diesem praktischen Workshop werden wir einen Code-Modus-Agenten erstellen, der Code schreibt und ausführt, um Werkzeuge aufzurufen, und ihn dann hinter einer einfachen Benutzeroberfläche bereitstellt. Die gesamte Pipeline läuft auf Flyte 2/Union, sodass die Ausführungen langlebig und reproduzierbar sind, Schritte zwischengespeichert werden und derselbe Code von einem Laptop auf einen Cluster mit mehreren Knoten ohne Umstellungen skaliert. Am Ende haben Sie einen funktionierenden Code-Modus-Agenten und ein wiederverwendbares Muster, das Sie auf Ihre eigenen Werkzeuge anwenden können. Was wir abdecken werden * Warum direkte Werkzeugaufrufe im großen Maßstab scheitern und was der Code-Modus ändert * Sicheres Ausführen von modellgeneriertem Code in Flytes sandboxed Orchestrator, mit intensiven Arbeiten, die an isolierte Aufgaben weitergeleitet werden * Orchestrierung mit Flyte 2: zwischengespeicherte Schritte, langlebige Ausführungen und Ausführung, die skaliert * Bereitstellung des Agenten mit einer Benutzeroberfläche, mit einem Weg zur Produktion Was Sie mitnehmen werden * Einen funktionierenden Code-Modus-Agenten, der Code schreibt und ausführt, um Werkzeuge zu verwenden * Ein wiederverwendbares Muster, das Sie an Ihre eigenen Werkzeuge und MCP-Server anpassen können * Ein klares Gefühl dafür, wann der Code-Modus besser ist als direkte Werkzeugaufrufe und wann nicht Für wen es gedacht ist ML- und Software-Ingenieure, die Agenten bauen und eine effizientere, leistungsfähigere Alternative zum Verknüpfen von Werkzeugaufrufen suchen. Ob Sie bei der Arbeit Prototypen erstellen, Agenteninfrastruktur evaluieren oder ein Portfolio-Projekt aufbauen, Sie werden mit Code zurückkehren, den Sie weiter ausbauen können. Gastgeber ist Sage Elliott, AI Engineer bei Union.ai