Breaking Models AI Sicherheit

Das AI Security Research Meetup der Bay Area kehrt mit einer fokussierten Sitzung zu OWASP LLM01:2026 — Prompt Injection zurück. Dies ist das grundlegende Risiko in den OWASP Top 10 für LLM-Anwendungen, und die Revision 2026 spiegelt ein Jahr wider, in dem Prompt Injection von theoretisch zu operativ übergegangen ist: Zero-Click-Dokumentenexfiltration gegen Microsoft 365 Copilot (EchoLeak, CVE-2025-32711), agentengesteuerte destruktive Aktionen in Amazon Q (AWS-2025-015, AWS-2025-019), MCP-vermittelte Datenbank-Dumps gegen Supabase, indirekte Injektion durch GitHub-Probleme gegen MCP-verbundene Codierungsassistenten und Hintertüren in der Lieferkette in Paketen wie postmark-mcp. Wir werden das Bedrohungsmodell hinter diesen Vorfällen durchgehen — direkte vs. indirekte Injektion, vertrauenswürdige Angriffe über MCP, Gedächtnis- und RAG-Korpusvergiftung, multimodale und unsichtbare Unicode-Payloads, die "Fun-Tuning"-Klasse gegen geschlossene Produktionsmodelle — und welche Verteidigungen tatsächlich unter adaptiven Angriffen standhalten. Zur Vorbereitung können Sie lesen: https://github.com/GenAI-Security-Project/GenAI-LLM-Top10/blob/main/2026LLM01_PromptInjection.md vor der Veranstaltung, um mehr Wert daraus zu ziehen. Das gleiche kleine Gruppformat wie beim letzten Mal. Bringen Sie ein Papier mit, über das Sie nachgedacht haben, eine Erkenntnis, die Sie haben, eine Exploit-Kette, an der Sie arbeiten, oder eine Verteidigung, die Sie vor Leuten, die zurückdrängen werden, auf die Probe stellen möchten. Der OWASP LLM01:2026-Eintrag wird unser Ankerreferenz sein, aber die Agenda ist das, in das der Raum eintauchen möchte. Um teilzunehmen oder ein Papier/Projekt/alles, was mit AI-Sicherheit zu tun hat, zu präsentieren, kontaktieren Sie uns per E-Mail unter [email protected].