Złamanie modelów bezpieczeństwa AI

Description

Złamanie modeli — Sesja 4: Edycja atak i obrona 🛡️ Jedno wystąpienie na temat tego, co się dzieje po włamaniu do AI. Jedno wystąpienie o tym, jak powstrzymać swoje dane przed wyciekiem do AI w pierwszej kolejności. Atak i obrona, tego samego wieczoru. Wystąpienie 1 — DLP umarł; niech żyje DLP: Jak utrzymać Twoje sekrety z dala od ChatGPT \Ritesh Ahuja, współzałożyciel i CTO, Wald.ai Twoi pracownicy wklejają wrażliwe dane do ChatGPT, Claude’a i Geminiego dziesiątki razy dziennie — a narzędzia DLP, w które Twoja firma zainwestowała dekady, nie widzą tego ani przez chwilę. Ritesh (były pracownik Google, Stanford, IIT Delhi) wyjaśnia, dlaczego tradycyjne zapobieganie utracie danych jest całkowicie ślepe na ruch AI oraz jak wygląda nowoczesne podejście z uwzględnieniem kontekstu — w tym, jak bronić się przed atakami opartymi na AI, które wykorzystują luki, które zawsze tam były. Jak zawsze: najpierw wystąpienia, później otwarta scena. Przyprowadź swoje pytania, swoje gorące tezy, swój niedokończony exploit — ta publiczność będzie reagować, z miłością. Wystąpienie 2 — Po jailbreaku: Kiedy Twój asystent AI zostaje zhakowany, kto sprząta bałagan? Arshi Chadha, badacz bezpieczeństwa w Zscaler (prosto z BSides Las Vegas) Wszyscy uwielbiają pokazywać jailbreak. Nikt nie mówi o poranku po — kiedy sprytna komenda trafia na produkt, który TY wysyłasz. Arshi opisuje dwa prawdziwe incydenty z zeszłego lata: EchoLeak, gdzie jedna nudna wiadomość e-mail spowodowała, że Microsoft 365 Copilot niespodziewanie ukradł Twoje pliki (zero kliknięć, zero złośliwego oprogramowania) oraz Amazon Q, gdzie atakujący wprowadził komendę "usuń wszystko" w oficjalnej aktualizacji rozszerzenia AWS, która zainstalowała się automatycznie na ~1 milionie maszyn. Kto ponosi odpowiedzialność za incydent? Jak wygląda odpowiedź, kiedy "błąd" to Twoje AI, które zbyt dobrze wykonuje instrukcje? Opuścisz sesję z rzeczywistą instrukcją działania. 📩 Aby wystąpić w przyszłej sesji, proszę pisać na: [[email protected]]