Modèles de sécurité de l'IA en pleine rupture

Description

Le Meetup de recherche sur la sécurité de l'IA de la région de la baie revient pour une session axée sur OWASP LLM01:2026 — Injection de prompt.C'est le risque fondamental dans le top 10 OWASP pour les applications LLM, et la révision de 2026 reflète une année où l'injection de prompt est passée de théorique à opérationnelle : exfiltration de documents sans clic contre Microsoft 365 Copilot (EchoLeak, CVE-2025-32711), actions destructrices pilotées par des agents dans Amazon Q (AWS-2025-015 AWS-2025-019), dumps de base de données médiés par MCP contre Supabase, injection indirecte à travers des problèmes GitHub contre des assistants de codage connectés à MCP, et backdoors de chaîne d'approvisionnement dans des packages comme postmark-mcp.Nous passerons en revue le modèle de menace derrière ces incidents — injection directe vs. indirecte, attaques de surface de confiance via MCP, empoisonnement de la mémoire et du corpus RAG, charges utiles multimodales et invisibles-Unicode, la classe "fun-tuning" contre les modèles de production à poids fermés — et quelles défenses tiennent réellement sous une attaque adaptative. Pour vous préparer, vous pouvez lire : https://github.com/GenAI-Security-Project/GenAI-LLM-Top10/blob/main/2026LLM01_PromptInjection.md avant l'événement, pour en tirer plus de valeur.Format de petit groupe comme la dernière fois. Apportez un document sur lequel vous avez réfléchi, une découverte que vous gardez en attente, une chaîne d'exploitation que vous êtes en train de travailler, ou une défense que vous souhaitez tester devant des personnes qui vous mettront au défi.L'entrée OWASP LLM01:2026 sera notre référence ancrée, mais l'agenda est ce que la salle souhaite approfondir. Pour assister ou présenter un document/projet/quoi que ce soit lié à la sécurité de l'IA, contactez-nous par email à [[[email protected]](mailto:[email protected])](mailto:[email protected]).