Modèles IA de Sécurité

Modèles🚨 Session 5 : Édition Fuite & ConstructionPartie 1 - LLM02 : Divulgation d'Informations SensiblesLes éléments que les applications IA divulguent : clés API, dossiers clients, invites système, conversations d'autres personnes. Cette catégorie était au #6 dans le Top 10 OWASP original pour les LLM. Dans la mise à jour de 2026, elle a bondi à la #2, juste derrière l'injection de prompt, et elle maintient cette position en 2026. Nous allons examiner comment ces fuites se produisent réellement. La plupart d'entre elles n'ont pas besoin de jailbreak, juste d'une utilisation normale, et ce qui les empêche réellement.Partie 2 : Exercice de conception : construire un système agentique sécuriséUne nouveauté pour cette session. Au lieu de seulement parler de systèmes défectueux, nous en concevons un qui ne l'est pas. Ensemble, nous allons modéliser les menaces d'une application IA agentique, là où elle peut fuir, là où elle peut être détournée – puis esquisser une architecture sécurisée pour cela. Vous ferez la conception pratique, pas seulement l'écoute.Discussion d'abord, puis l'exercice, puis la séance ouverte. Pas de propositions de fournisseurs. Débutants bienvenus !📩 RSVP (ou pour présenter lors d'une future session) : [email protected]📅 9 août · 14h30 - 16h30📍 Hacker Dojo, Mountain View