Łamanie zabezpieczeń modeli AI

Łamanie modeli🚨 Sesja 5: Wydanie Leaku i BudowyCzęść 1 - LLM02: Udostępnienie informacji poufnychRzeczy, które aplikacje AI wyciekają: klucze API, dane klientów, komunikaty systemowe, rozmowy innych ludzi. Ta kategoria zajmowała 6. miejsce na pierwotnej liście OWASP Top 10 dla LLM-ów. W aktualizacji z 2026 roku skoczyła na 2. miejsce, zaraz za wstrzyknięciem promptów, i zajmuje to miejsce w 2026 roku. Przeanalizujemy, jak te wycieki naprawdę się zdarzają. Większość z nich nie wymaga jailbreaka, tylko normalnego użytkowania, a także co właściwie je powstrzymuje.Część 2: Ćwiczenie projektowe: zbudowanie bezpiecznego systemu agentycznegoCoś nowego w tej sesji. Zamiast tylko mówić o wadliwych systemach, zaprojektujemy taki, który nie jest. Razem stworzymy model zagrożeń dla aplikacji AI agentycznej, gdzie może wystąpić wyciek, gdzie może być przejęta - a następnie naszkicujemy dla niej bezpieczną architekturę. Ty zajmujesz się praktycznym projektem, a nie tylko słuchaniem.Najpierw rozmowa, potem ćwiczenie, a następnie otwarta dyskusja. Bez prezentacji sprzedawców. Początkujący mile widziani!📩 RSVP (lub aby wystąpić na przyszłej sesji): [email protected]📅 9 sierpnia · 14:30 - 16:30📍 Hacker Dojo, Mountain View