Sichere KI-Modelle Durchbrechen

Sichere KI-Modelle Durchbrechen🚨 Sitzung 5: Leak & Build EditionTeil 1 - LLM02: Offenlegung sensibler InformationenWas KI-Apps preisgeben: API-Schlüssel, Kundendaten, Systemaufforderungen, die Gespräche anderer Menschen. Diese Kategorie stand auf Platz #6 der ursprünglichen OWASP Top 10 für LLMs. In der Aktualisierung 2026 sprang sie auf Platz #2, direkt hinter der Eingabeaufforderungseinspritzung, und hält diesen Platz 2026. Wir werden durchgehen, wie diese Leaks tatsächlich passieren. Die meisten von ihnen benötigen kein Jailbreak, nur normale Nutzung, und was sie tatsächlich stoppt.Teil 2: Designübung: ein sicheres agentisches System entwerfenEtwas Neues in dieser Sitzung. Statt nur über kaputte Systeme zu sprechen, entwerfen wir eines, das es nicht ist. Gemeinsam werden wir ein Bedrohungsmodell für eine agentische KI-App erstellen, wo sie leaken kann, wo sie gehijackt werden kann - und dann eine sichere Architektur dafür skizzieren. Du machst das praktische Design, nicht nur das Zuhören.Zuerst reden, dann die Übung, dann offene Fragerunde. Keine Anbieterpräsentationen. Anfänger sind willkommen!📩 RSVP (oder um bei einer zukünftigen Sitzung zu präsentieren): [email protected]📅 9. August · 14:30 - 16:30 Uhr📍 Hacker Dojo, Mountain View