Praktische Sicherheitsbewertungen für KI unter Verwendung des OWASP AISVS

Wie verifiziert man tatsächlich, dass ein KI-System sicher ist? In diesem Workshop wird der Projektleiter des OWASP AI Security Verification Standard (AISVS), Jim Manico, praktische Bewertungsszenarien mithilfe des OWASP AISVS durchgehen.Wir werden echte Anforderungen aus Kapiteln zum Schutz vor Prompt-Injection, der Sicherheit agierender Aktionen, der Härtung von RAG/Vektor-Datenbanken und Sicherheitskontrollen für Ausgaben bearbeiten und zeigen, wie das "Verifizieren von" in der Praxis gegen laufende Systeme aussieht.Die Teilnehmer werden mit einem praktischen Verständnis davon gehen, wie man einen KI-Sicherheitsbewertungsscope festlegt, geeignete Verifizierungsstufen auswählt und die AISVS-Anforderungen auf LLM-basierte Anwendungen, autonome Agenten und MCP-verbundene Tool-Ökosysteme anwendet.Bringen Sie einen Laptop mit, wenn Sie mitarbeiten möchten.