Modelos de IA de Seguridad en Ruptura

Description

La reunión de investigación en seguridad de IA del Área de la Bahía regresa para una sesión centrada en OWASP LLM01:2026 — Inyección de Prompts.Este es el riesgo fundamental en el Top 10 de OWASP para aplicaciones LLM, y la revisión de 2026 refleja un año en el que la inyección de prompts pasó de ser teórica a operativa: exfiltración de documentos sin clics contra Microsoft 365 Copilot (EchoLeak, CVE-2025-32711), acciones destructivas impulsadas por agentes en Amazon Q (AWS-2025-015 AWS-2025-019), vertidos de bases de datos mediados por MCP contra Supabase, inyección indirecta a través de problemas de GitHub contra asistentes de codificación conectados a MCP, y puertas traseras en la cadena de suministro en paquetes como postmark-mcp.Recorreremos el modelo de amenaza detrás de estos incidentes — inyección directa vs. indirecta, ataques a superficies confiables a través de MCP, envenenamiento de memoria y corpus RAG, cargas útiles multimodales e invisibles de Unicode, la clase de "ajuste-divertido" contra modelos de producción de peso cerrado — y qué defensas realmente se mantienen bajo un ataque adaptativo. Para prepararte, puedes leer: https://github.com/GenAI-Security-Project/GenAI-LLM-Top10/blob/main/2026LLM01_PromptInjection.md antes del evento, para obtener más valor de él.Mismo formato de grupo pequeño que la última vez. Trae un documento que has estado analizando, un hallazgo en el que estás trabajando, una cadena de explotación en la que estás trabajando o una defensa que deseas poner a prueba frente a personas que te desafiarán.La entrada OWASP LLM01:2026 será nuestra referencia ancla, pero la agenda es lo que el grupo desee profundizar. Para asistir o presentar un documento/proyecto/cualquier cosa relacionada con la seguridad de IA, contacta por correo electrónico a [[[email protected]](mailto:[email protected])](mailto:[email protected]).