Modelos de seguridad AI en ruptura

El Meetup de Investigación en Seguridad AI del Área de la Bahía regresa para una sesión enfocada en OWASP LLM01:2026 — Inyección de Prompt. Este es el riesgo fundamental en el OWASP Top 10 para Aplicaciones LLM, y la revisión de 2026 refleja un año en el que la inyección de prompt pasó de ser teórica a operativa: exfiltración de documentos de cero clics contra Microsoft 365 Copilot (EchoLeak, CVE-2025-32711), acciones destructivas impulsadas por agentes en Amazon Q (AWS-2025-015 AWS-2025-019), volcado de bases de datos mediado por MCP contra Supabase, inyección indirecta a través de problemas de GitHub contra asistentes de codificación conectados a MCP, y puertas traseras en la cadena de suministro en paquetes como postmark-mcp. Analizaremos el modelo de amenaza detrás de estos incidentes: inyección directa vs. indirecta, ataques de superficie de confianza a través de MCP, envenenamiento de memoria y corpus RAG, cargas útiles multimodales e invisibles en Unicode, la clase de "ajuste divertido" contra modelos de producción con pesos cerrados — y qué defensas realmente se mantienen bajo un ataque adaptativo. Para prepararte, puedes leer: https://github.com/GenAI-Security-Project/GenAI-LLM-Top10/blob/main/2026LLM01_PromptInjection.md antes del evento, para obtener más valor de él. El mismo formato de grupo pequeño que la última vez. Trae un documento en el que hayas estado trabajando, un hallazgo que estés aguardando, una cadena de explotación que estés analizando, o una defensa que quieras poner a prueba frente a personas que cuestionen. La entrada OWASP LLM01:2026 será nuestra referencia principal, pero la agenda es lo que el grupo quiera investigar. Para asistir o presentar un documento/proyecto/cualquier cosa relacionada con la seguridad AI, contacta por email a [email protected].