Breaking Models KI-Sicherheit

Description

Das KI-Sicherheitsforschungs-Meetup in der Bay Area kehrt für eine fokussierte Sitzung zu OWASP LLM01:2026 — Prompt Injection zurück.Dies ist das grundlegende Risiko in den OWASP Top 10 für LLM-Anwendungen, und die Revision 2026 spiegelt ein Jahr wider, in dem die Prompt Injection vom theoretischen in den operativen Bereich übergegangen ist: Zero-Click-Dokumenten-borne Exfiltration gegen Microsoft 365 Copilot (EchoLeak, CVE-2025-32711), agentengesteuerte destruktive Aktionen in Amazon Q (AWS-2025-015, AWS-2025-019), MCP-vermittelte Datenbank-Dumps gegen Supabase, indirekte Injection über GitHub-Probleme gegen MCP-verbundene Coding-Assistenten und Supply-Chain-Hintertüren in Paketen wie postmark-mcp.Wir werden das Bedrohungsmodell hinter diesen Vorfällen durchgehen — direkte vs. indirekte Injektion, Angriffe auf vertrauenswürdige Oberflächen via MCP, Gedächtnis- und RAG-Korpus-Vergiftung, multimodale und unsichtbare Unicode-Payloads, die „Fun-Tuning“-Klasse gegen geschlossene Gewichtungsproduktionsmodelle — und welche Abwehrmaßnahmen tatsächlich unter adaptivem Angriff standhalten. Zur Vorbereitung können Sie lesen: https://github.com/GenAI-Security-Project/GenAI-LLM-Top10/blob/main/2026LLM01_PromptInjection.md, bevor die Veranstaltung stattfindet, um mehr Wert daraus zu ziehen.Das gleiche kleine Gruppenformat wie beim letzten Mal. Bringen Sie ein Papier mit, an dem Sie arbeiten, eine Entdeckung, die Sie zurückhalten, eine Exploit-Kette, durch die Sie arbeiten, oder eine Verteidigung, die Sie vor Menschen testen möchten, die zurückdrängen werden.Der OWASP LLM01:2026-Eintrag wird unser Ankerreferenz sein, aber die Agenda richtet sich nach dem, was der Raum vertiefen möchte. Um an der Veranstaltung teilzunehmen oder ein Papier/Projekt/irgendetwas, das mit KI-Sicherheit zu tun hat, zu präsentieren, wenden Sie sich per E-Mail an [[[email protected]](mailto:[email protected])](mailto:[email protected]).