Sessão 09: Tornando a IA Confiável

Testando, Avaliando e Protegendo Sistemas Inteligentes Sobre o Evento As aplicações de IA podem produzir resultados impressionantes, mas como sabemos quando elas estão realmente funcionando bem? O software tradicional pode ser testado com entradas previsíveis e saídas esperadas. Os sistemas de IA são diferentes: suas respostas podem mudar, informações podem ser mal interpretadas e mudanças aparentemente pequenas podem afetar a qualidade de todo o sistema. À medida que a IA se torna responsável por buscar informações, usar ferramentas e executar tarefas, simplesmente fazer algumas perguntas e decidir que "parece bom" não é mais suficiente. Na Sessão 09 desta série, focamos em tornar os sistemas inteligentes mensuráveis, testáveis e seguros. Baseando-se nos sistemas de recuperação, ferramentas de IA e fluxos de trabalho desenvolvidos ao longo da série, iremos explorar como avaliar as respostas da IA, testar sistemas contra entradas inesperadas ou maliciosas, adicionar salvaguardas e detectar automaticamente quando mudanças afetam negativamente a qualidade do sistema. O que vamos abordar O Hands-On Codelab: Colocando a IA à Prova Neste workshop prático, os participantes irão: No final da sessão, os participantes terão um sistema que faz mais do que apenas funcionar—ele terá uma maneira de medir sua qualidade, identificar fraquezas e prevenir regressões à medida que evolui. A Grande Ideia