Modelos de Seguridad AI en Crisis

Description

Modelos en Crisis — Sesión 4: Edición Ataque y Defensa 🛡️ Una charla sobre lo que sucede después de que una IA es hackeada. Una charla sobre cómo evitar que tus datos se filtren en la IA desde el principio. Ofensiva y defensiva, la misma noche. Charla 1 — DLP está Muerto; ¡Viva DLP!: Manteniendo Tus Secretos Fuera de ChatGPT \Ritesh Ahuja, Co-Fundador y CTO, Wald.ai Tus empleados están copiando datos sensibles en ChatGPT, Claude y Gemini docenas de veces al día, y las herramientas DLP que tu empresa se tomó décadas en implementar no pueden ver nada de eso. Ritesh (ex-Google, Stanford, IIT Delhi) desglosa por qué la prevención tradicional de pérdida de datos está completamente ciega al tráfico de IA, y cómo se ve realmente un enfoque moderno y consciente del contexto, incluyendo cómo defenderse contra ataques potenciados por IA que explotan las grietas que siempre han estado ahí. Como siempre: primero las charlas, luego el espacio abierto. Trae tus preguntas, tus opiniones candentes, tu explotación a medio terminar — esta multitud será desafiante, con cariño. Charla 2 — Después del Jailbreak: Cuando Tu Asistente AI es Hackeado, ¿Quién Limpia el Desastre? Arshi Chadha, Investigadora de Seguridad en Zscaler (recién llegada de BSides Las Vegas) A todos les encanta mostrar el jailbreak. Nadie habla de la mañana siguiente, cuando ese ingenioso aviso aterriza en un producto que TÚ envías. Arshi revisa dos incidentes reales del verano pasado: EchoLeak, donde un correo electrónico que parecía aburrido hizo que Microsoft 365 Copilot silenciosamente robara tus archivos (sin clics, sin malware), y Amazon Q, donde un atacante introdujo un aviso de "eliminar todo" en una actualización oficial de extensión de AWS que se instaló automáticamente en ~1 millón de máquinas. ¿Quién es responsable del incidente? ¿Cómo es la respuesta cuando el "error" es que tu IA sigue instrucciones demasiado bien? Saldrás con un manual real. 📩 Para presentar en una sesión futura, envía un correo a: [[email protected]]