Quebrando a Segurança de Modelos de IA

Quebrando Modelos🚨 Sessão 5: Edição Vazamento & ConstruçãoParte 1 - LLM02: Divulgação de Informações SensíveisO que os aplicativos de IA vazam: chaves de API, registros de clientes, prompts do sistema, conversas de outras pessoas. Esta categoria ocupava a #6 no Top 10 original da OWASP para LLMs. Na atualização de 2026, subiu para #2, logo atrás da injeção de prompts, e mantém essa posição em 2026. Vamos percorrer como esses vazamentos realmente acontecem. A maioria deles não precisa de jailbreak, apenas de uso normal, e o que realmente os impede.Parte 2: Exercício de design: construir um sistema agente seguroAlgo novo nesta sessão. Em vez de apenas falar sobre sistemas quebrados, vamos projetar um que não seja. Juntos, modelaremos as ameaças de um aplicativo de IA agente, onde ele pode vazar, onde pode ser sequestrado - e então esboçaremos uma arquitetura segura para ele. Você faz o design prático, não apenas ouve.Fala primeiro, depois o exercício, depois espaço aberto. Sem apresentações de fornecedores. Iniciantes são bem-vindos!📩 RSVP (ou para apresentar em uma futura sessão): [email protected]📅 9 de agosto · 14h30 - 16h30📍 Hacker Dojo, Mountain View