AI-Sicherheitsnacht Lissabon - KI-Woche - Kick-Off-Ausgabe

Hallo zusammen, wir starten ein neues Community-Kapitel in Lissabon - und es gibt keinen besseren Zeitpunkt als die Lissabon KI-Woche. Schließ dich uns an für einen Abend voller Vorträge über die Sicherheitsaspekte des Bauens mit KI und die Gelegenheit, die lokale Gemeinschaft kennenzulernen, die das Ganze einleitet. Vortrag 1 – Verständnis von Prompt-Injektions-Techniken, Herausforderungen und fortgeschrittener EskalationSprecher: Brian Vermeer (Staff Developer Advocate, Snyk) Als Entwickler setzen wir KI und große Sprachmodelle (LLMs) in unseren Anwendungen mehr denn je ein. Dennoch gibt es eine zunehmende Besorgnis, der wir uns bewusst sein müssen: Prompt-Injektion. Dieser heimliche Angriff kann unsere KI-Systeme untergraben, indem er die Eingaben manipuliert, um unbeabsichtigte Ausgaben zu erzeugen. In dieser Sitzung werden wir aufschlüsseln, was Prompt-Injektion wirklich bedeutet, und einige gängige Techniken untersuchen, die Angreifer nutzen, wie Anweisungsübersteuerungen und versteckte Eingabeaufforderungen. Aber wir werden nicht dort aufhören; wir werden auch fortgeschrittene Herausforderungen erkunden, einschließlich Eskalationstechniken, die die Risiken verschärfen können. Am wichtigsten ist, dass wir nicht nur das Problem identifizieren – wir werden praktische Schritte untersuchen, die du unternehmen kannst, um diese Risiken zu mindern und deine KI-Interaktionen sicher zu halten. Brian ist ein Staff Developer Advocate für Snyk, Java Champion und Software-Ingenieur mit über einem Jahrzehnt praktischer Erfahrung in der Erstellung und Wartung von Software. Er ist leidenschaftlich an Java, (purem) funktionalem Programmieren und Cybersicherheit interessiert. Brian ist JUG-Leiter für die virtuelle JUG und die NLJUG, co-leitet die DevSecCon-Community und ist Community-Manager für Foojay. Er ist ein regelmäßiger internationaler Sprecher auf Konferenzen wie JavaOne, Devnexus, Devoxx, Jfokus, JavaZone und mehr. Außerdem ist er Militärreservist bei der Königlichen Luftwaffe der Niederlande und ein Taekwondo-Meister / Lehrer. Vortrag 2 – AAuth: Die Elektrifizierung der AutorisierungSprecher: Dick HardtOAuth ist der Verbrennungsmotor der Autorisierung – ausgezeichnet und wird über sein Maximum hinaus optimiert. Agenten haben den Treibstoff und den Fahrer gewechselt. AAuth löscht den Treibstoff: kein API-Schlüssel, kein Berechtigungstoken, keine Client-Registrierung, kein Weiterleiten. Und es entlässt den Fahrer: Statt eines Zustimmungsscreens für jede Wendung gibst du einem Agenten eine Mission und ein Budget. Dick Hardt ist Gründer und CEO von Hellō, einer kooperativen Identitätsplattform. Er leitete das Design von OAuth 2.0 und JSON Web Token, Standards, die täglich von Milliarden von Menschen genutzt werden. Er ist jetzt der Autor von AAuth, das für Agenten das tut, was OAuth für Apps getan hat: Agenten Zugriff auf Ressourcen geben, ohne ihnen Berechtigungen zu erteilen. Dick co-leitet die IPSIE-Arbeitsgruppe der OpenID Foundation und ist Mitautor von OAuth 2.1. Zuvor gründete er ActiveState und Sxip Identity und leitete Identitätsinitiativen bei Microsoft und Amazon. Er lebt in Lissabon mit seiner Frau und ihrem Hund. Erwarte echte Gespräche über KI-Sicherheitsbedrohungen, Zeit, um sich mit Lissabons KI- und Sicherheitsgemeinschaft zu vernetzen, und einen ordentlichen Kickoff für das, was wir hoffen, ein regelmäßiges lokales Kapitel zu werden. Teil der Lissabon KI-Woche.