Modèles de Rupture AI Sécurité

Deux conférences cette semaine. L'une clôt une boucle, l'autre ouvre un terrier de lapin.Partie 1 — Défenses contre l'injection de prompts : Ce qui fonctionne, ce qui est du théâtre (Arshi Chadha, Ingénieur en cybersécurité senior, Zscaler, 20 min) Dernière session : 11 classes d'attaque, CVEs. Cette session : le côté défense. Quelles atténuations tiennent réellement, lesquelles donnent juste l'impression d'être sûres, et pourquoi « ajouter un meilleur prompt système » n'est pas une stratégie.Partie 2 — Avant que le modèle réponde (Sagnik Nath, Professeur adjoint, Informatique, UC Santa Cruz) Vos prompts sont désormais fixes. Cool. Pendant ce temps, le backend d'inférence réutilise des états mis en cache, fait correspondre de manière floue de anciennes réponses, et fait confiance à des hachages conçus pour la vitesse, mais pas pour la sécurité. Cette conférence explore comment les caches préfixes, sémantiques et multimodaux peuvent être empoisonnés pour altérer les réponses, cacher des entrées malveillantes et contourner les audits basés sur les LLM dans des systèmes de service partagés. Nous examinerons les attaques démontrées contre des frameworks tels que vLLM et GPTCache, puis discuterons des défenses pratiques pour sécuriser la couche de cache.📍 Hacker Dojo, Mountain View 🕕 14h30Même format en petits groupes que la dernière fois. Apportez un article que vous avez étudié, une découverte que vous avez en attente, une chaîne d'exploits que vous êtes en train de traiter, ou une défense que vous souhaitez tester devant des personnes qui vous remettront en question. L'agenda sera notre référence d'ancrage. Encore plus précieux est ce que la salle souhaite approfondir. Pour assister, ou pour présenter un article/projet/quoi que ce soit lié à la sécurité AI, contactez-nous par e-mail à [email protected].