Avaliações Práticas de Segurança em IA Usando OWASP AISVS

Como você realmente verifica se um sistema de IA é seguro? Neste workshop, o líder do projeto OWASP AI Security Verification Standard (AISVS), Jim Manico, irá percorrer cenários práticos de avaliação usando o OWASP AISVS.Nós trabalharemos com requisitos reais de capítulos sobre defesa contra injeção de prompt, segurança de ação agentiva, fortalecimento de banco de dados RAG/vetor, e controles de segurança de saída, mostrando como é na prática o que significa "verificar que" em relação a sistemas em funcionamento.Os participantes sairão com uma compreensão prática de como delimitar uma avaliação de segurança em IA, selecionar níveis de verificação apropriados e aplicar os requisitos do AISVS a aplicativos baseados em LLM, agentes autônomos e ecossistemas de ferramentas conectados ao MCP.Traga um laptop se você quiser acompanhar.