Sécurité des Modèles AI en Rupture

Le Meetup de Recherche en Sécurité AI de la Baie de San Francisco revient pour une session axée sur OWASP LLM01:2026 — Injection de Prompt. Ceci est le risque fondamental dans le Top 10 d'OWASP pour les Applications LLM, et la révision de 2026 reflète une année où l'injection de prompt est passée de théorique à opérationnelle : exfiltration de documents sans clic contre Microsoft 365 Copilot (EchoLeak, CVE-2025-32711), actions destructrices pilotées par un agent dans Amazon Q (AWS-2025-015 AWS-2025-019), vidages de base de données médiés par MCP contre Supabase, injection indirecte à travers les problèmes GitHub contre les assistants de codage connectés à MCP, et portes dérobées dans la chaîne d'approvisionnement dans des paquets comme postmark-mcp. Nous passerons en revue le modèle de menace derrière ces incidents — injection directe vs. indirecte, attaques sur les surfaces de confiance via MCP, empoisonnement de mémoire et de corpus RAG, charges utiles multimodales et invisible-Unicode, la classe "fun-tuning" contre les modèles de production à poids fermés — et quelles défenses se maintiennent réellement sous l'attaque adaptative. Pour un peu de préparation, vous pouvez lire : https://github.com/GenAI-Security-Project/GenAI-LLM-Top10/blob/main/2026LLM01_PromptInjection.md avant l'événement, afin d'en tirer plus de valeur. Le même format en petits groupes que la dernière fois. Apportez un document sur lequel vous travaillez, une découverte que vous avez, une chaîne d'exploitation que vous examinez, ou une défense que vous souhaitez tester devant des personnes qui remettront en question vos idées. L'entrée OWASP LLM01:2026 sera notre référence d'ancrage, mais l'agenda est ce que la salle souhaite approfondir. Pour assister ou présenter un document/projet/tout ce qui est lié à la sécurité AI, contactez-nous par email à [email protected].