A Autópsia do Agente - Quebrando e Corrigindo Agentes de IA

Uma sessão prática dissecando como os agentes de IA realmente falham do ponto de vista da segurança — não uma conversa abstrata sobre a segurança da IA, mas os modos de falha específicos e bem documentados que as equipes estão enfrentando hoje: injeção de prompt através de saídas de ferramentas, agência excessiva de acesso a ferramentas superautorizadas, contaminação de memória/contexto e manuseio inseguro das saídas do agente. A primeira metade é uma autópsia ao vivo de um agente de demonstração deliberadamente comprometido, onde os participantes rastreiam exatamente como ele foi explorado e o que permitiu o ataque. A segunda metade se torna adversarial: os participantes se dividem em equipes vermelhas e azuis dentro de uma sandbox isolada — sem sistemas ou dados reais envolvidos — com as equipes vermelhas tentando manipular o agente para vazar dados ou chamar ferramentas fora do seu escopo, e as equipes azuis corrigindo a vulnerabilidade ao vivo. Os participantes saem com uma lista de verificação funcional para auditar sua própria pilha de agentes. A Bengaluru Tech Week 2026 acontece de 1 a 6 de setembro de 2026 como uma semana descentralizada de construção em Bengaluru. A BTW é feita para fundadores, engenheiros, designers, investidores, operadores, pesquisadores, estudantes e comunidades construindo de Bengaluru para a Índia e o mundo. Explore a semana em bengalurutechweek.com