Breaking Models AI-beveiliging

Description

De Bay Area AI-beveiligingsonderzoek Meetup keert terug voor een gerichte sessie over OWASP LLM01:2026 — Prompt Injection.Dit is het fundamentele risico in de OWASP Top 10 voor LLM-toepassingen, en de herziening van 2026 weerspiegelt een jaar waarin prompt-injectie van theorie naar praktijk ging: zero-click document-gebaseerde exfiltratie tegen Microsoft 365 Copilot (EchoLeak, CVE-2025-32711), agent-gedreven destructieve acties in Amazon Q (AWS-2025-015 AWS-2025-019), MCP-gemediëerde database dumps tegen Supabase, indirecte injectie via GitHub-issues tegen MCP-aangesloten coderingsassistenten, en supply-chain backdoors in pakketten zoals postmark-mcp.We zullen het dreigingsmodel achter deze incidenten bespreken — directe vs. indirecte injectie, vertrouwde oppervlakaanvallen via MCP, geheugen- en RAG-corpusvergiftiging, multimodale en onzichtbare-Unicode payloads, de "fun-tuning" klasse tegen gesloten-gewicht productiemodellen — en welke verdedigingen daadwerkelijk standhouden onder adaptieve aanvallen. Voor wat voorbereiding kun je lezen: https://github.com/GenAI-Security-Project/GenAI-LLM-Top10/blob/main/2026LLM01_PromptInjection.md voordat je naar het evenement komt, om er meer waarde uit te halen.Zelfde kleine groep formaat als de vorige keer. Neem een paper mee waar je over hebt nagedacht, een bevinding waar je mee zit, een exploit chain waar je doorheen werkt, of een verdediging die je wilt testen voor mensen die tegenwicht bieden.De OWASP LLM01:2026 lijst zal onze ankerreferentie zijn, maar de agenda is wat de ruimte wil uitdiepen. Om deel te nemen of een paper/project/iets gerelateerd aan AI-beveiliging voor te stellen, neem contact op via e-mail op [[[email protected]](mailto:[email protected])](mailto:[email protected]).