Noc Bezpieczeństwa AI w Lizbonie - Tydzień AI - Wydanie inauguracyjne

Cześć wszystkim, uruchamiamy nowy rozdział społeczności w Lizbonie - a nie ma lepszego momentu niż Tydzień AI w Lizbonie. Dołącz do nas na wieczór wykładów dotyczących bezpieczeństwa w kontekście budowania z AI, oraz na możliwość spotkania z lokalną społecznością, która oficjalnie rozpoczyna działalność. Wykład 1 — Zrozumienie technik wstrzykiwania zapytań, wyzwań i zaawansowanej eskalacjiPrelegent: Brian Vermeer (Starszy Adwokat Programistów, Snyk) Jako programiści coraz bardziej integrujemy AI i duże modele językowe (LLM) w naszych aplikacjach. Niemniej jednak, rośnie obawa, którą musimy się zająć: wstrzykiwanie zapytań. Ten podstępny atak może podważyć nasze systemy AI poprzez manipulowanie wejściem, aby wyprodukować niezamierzone wyjścia. Podczas tej sesji rozłożymy na czynniki pierwsze, co naprawdę oznacza wstrzykiwanie zapytań i przyjrzymy się niektórym powszechnym technikom, które wykorzystują napastnicy, takim jak nadpisanie instrukcji i ukryte zapytania. Ale na tym nie poprzestaniemy; zbadamy także zaawansowane wyzwania, w tym techniki eskalacji, które mogą zaostrzyć te ryzyka. Najważniejsze jest to, że nie będziemy tylko identyfikować problemu - zagłębimy się w praktyczne kroki, jakie można podjąć, aby zminimalizować te ryzyka i zabezpieczyć interakcje z AI. Brian jest Starszym Adwokatem Programistów w Snyk, Mistrzem Javy i Inżynierem Oprogramowania z ponad dziesięcioletnim doświadczeniem w tworzeniu i utrzymywaniu oprogramowania. Pasjonuje się Javą, (Czystym) Programowaniem Funkcjonalnym i Cyberbezpieczeństwem. Brian jest liderem JUG w wirtualnym JUG i NLJUG, współprowadzi społeczność DevSecCon, oraz jest menedżerem społeczności dla Foojay. Jest regularnym międzynarodowym prelegentem na konferencjach takich jak JavaOne, Devnexus, Devoxx, Jfokus, JavaZone i innych. Jest również rezerwistą wojskowym Królewskich Sił Powietrznych Holandii oraz Mistrzem / Nauczycielem Taekwondo. Wykład 2 — AAuth: Elektryfikacja autoryzacjiPrelegent: Dick HardtOAuth to silnik spalinowy autoryzacji — doskonały, ale optymalizowany do granic możliwości. Agenci zmieniają paliwo i kierowcę. AAuth usuwa paliwo: brak klucza API, brak tokena dostępu, brak rejestracji klienta, brak przekierowania. I emerytuje kierowcę: zamiast ekranu zgody na każdym skrzyżowaniu, dajesz agentowi misję i budżet. Dick Hardt jest założycielem i dyrektorem generalnym Hellō, kooperacyjnej platformy tożsamości. Kierował projektowaniem OAuth 2.0 i JSON Web Token, standardów używanych przez miliardy ludzi każdego dnia. Teraz jest autorem AAuth, które robi dla agentów to, co OAuth zrobił dla aplikacji: daje agentom dostęp do zasobów bez nadawania im poświadczeń. Dick współprzewodniczy grupie roboczej IPSIE Fundacji OpenID i jest współautorem OAuth 2.1, a wcześniej założył ActiveState i Sxip Identity oraz prowadził inicjatywy związane z tożsamością w Microsoft i Amazon. Mieszka w Lizbonie z żoną i ich psem. Oczekuj realnych rozmów na temat zagrożeń bezpieczeństwa AI, czasu na połączenie się z społecznością AI i bezpieczeństwa w Lizbonie oraz prawidłowego rozpoczęcia tego, co mamy nadzieję, że stanie się regularnym lokalnym rozdziałem. Część Tygodnia AI w Lizbonie.