Quebrando a Segurança dos Modelos de IA

Description

Quebrando Modelos — Sessão 4: Edição Ataque e Defesa 🛡️ Uma palestra sobre o que acontece depois que uma IA é hackeada. Uma palestra sobre como evitar que seus dados vazem para a IA desde o princípio. Ofensiva e defensiva, na mesma noite. Palestra 1 — DLP Está Morto; Viva o DLP: Mantendo Seus Segredos Fora do ChatGPT \Ritesh Ahuja, Co-Fundador & CTO, Wald.ai Seus funcionários estão colando dados sensíveis no ChatGPT, Claude e Gemini dezenas de vezes ao dia — e as ferramentas de DLP que sua empresa gastou décadas implantando não conseguem ver nada disso. Ritesh (ex-Google, Stanford, IIT Delhi) explica por que a prevenção de perda de dados tradicional está completamente cega para o tráfego de IA, e como uma abordagem moderna e contextual realmente se parece — incluindo como se defender contra ataques impulsionados pela IA que exploram as falhas que sempre estiveram lá. Como sempre: palestras primeiro, depois abertura para perguntas. Traga suas perguntas, suas opiniões franzinas, seu exploit quase finalizado — este público vai contestar, com amor. Palestra 2 — Após o Jailbreak: Quando Seu Assistente de IA é Hackeado, Quem Limpa a Bagunça? Arshi Chadha, Pesquisador de Segurança na Zscaler (recém-vindo do BSides Las Vegas) Todo mundo adora exibir o jailbreak. Ninguém fala sobre a manhã seguinte — quando aquele comando inteligente cai em um produto que VOCÊ envia. Arshi revisa dois incidentes reais do verão passado: EchoLeak, onde um único e-mail com aparência chata fez com que o Microsoft 365 Copilot roubasse seus arquivos silenciosamente (zero cliques, zero malware), e Amazon Q, onde um atacante inseriu um comando "deletar tudo" em uma atualização oficial de extensão da AWS que foi instalada automaticamente em cerca de 1 milhão de máquinas. Quem é o responsável pelo incidente? Como é a resposta quando o "bug" é sua IA seguindo instruções um pouco bem demais? Você vai sair com um verdadeiro manual de operações. 📩 Para apresentar em uma sessão futura, envie um e-mail para: [[email protected]]