Agents en Production

Agents en Production Une panel et une nuit de démonstration sur ce qu'il faut réellement pour déployer avec succès des agents IA destinés aux clients et les maintenir en fonctionnement. Panel Ce que nous allons aborder : adoption par les entreprises, cas d'utilisation, confiance et sécurité, et où la pile technologique se dirige au cours de l'année à venir. Panélistes Vyas Sekar, Professeur en ingénierie électrique et informatique, Carnegie Mellon University (CyLab); co-fondateur, Rockfish Data; Scientifique en chef, Conviva. Vyas travaille à l'intersection de la sécurité, du réseau et des systèmes à grande échelle, y compris le travail sur l'autonomie sCyber de CMU pour défendre les systèmes à l'ère de l'IA. Baolu Shen, Directeur de produit, DoorDash, croissance alimentée par l'IA. Auparavant, leadership produit chez TikTok et LinkedIn. Baolu est un leader produit chevronné avec plus d'une décennie d'expérience dans l'innovation et la croissance au sein des entreprises technologiques de la Silicon Valley. Kartik Talamadupula, Architecte Distingué (IA), Oracle. Auparavant Responsable de l'IA chez Wand AI, Directeur de la recherche en IA chez Symbl.ai, et Chercheur senior chez IBM Research. Le travail de Kartik se concentre sur l'IA centrée sur le raisonnement, les modèles de langage de grande taille et l'orchestration d'agents intelligents pour l'automatisation à l'échelle des entreprises. Modérateur - Arvind Murali Mohan, Realm Labs. Démonstrations Satya de Scalekit Auth et actions infrastructure pour les développeurs IA. Dans cette démonstration, ils montreront comment les développeurs peuvent gérer l'autorisation au niveau utilisateur, les cycles de vie des jetons et l'appel d'outils sans construire eux-mêmes l'infrastructure sous-jacente, ce qui facilite la création d'agents capables d'agir de manière fiable en production. Devanshi de Headroom. Headroom Labs est issu de leur bibliothèque open-source, Headroom (65K+ étoiles GitHub, 2,6M+ téléchargements). Ils construisent pour faire en sorte que chaque jeton compte pour les agents d'entreprise : compression, mise en cache et aperçu de tout ce qu'un agent lit, se souvient et paie pour chaque appel de modèle. Shantanu de Prodigal. Agents IA pour le service de prêt et la collecte de créances. Détails à venir. Saurabh de Realm Labs. Garde-fous en temps d'exécution pour les agents IA. Leur démonstration couvre comment les tâches d'agents à long terme échouent de manière subtile, y compris des engagements fabriqués, des réponses faussement confiantes, et un dérive de sujet progressive, puis montre comment lire la chaîne de pensée d'un modèle par une inspection neuronale profonde rend ces échecs observables et contrôlables en temps réel. Agenda