Łamanie bezpieczeństwa modeli AI

Dwa wykłady w tym tygodniu. Jeden zamyka pętlę, drugi otwiera króliczą norę. Część 1 — Obrona przed wstrzykiwaniem poleceń: Co działa, co jest teatrem (Arshi Chadha, starszy inżynier ds. cyberbezpieczeństwa, Zscaler, 20 min) Ostatnia sesja: 11 klas ataków, CVE. Ta sesja: strona obrony. Które środki zaradcze naprawdę się sprawdzają, które z nich tylko wydają się bezpieczne i dlaczego „dodanie lepszego polecenia systemowego” nie jest strategią. Część 2 — Zanim model odpowie (Sagnik Nath, profesor asystent, informatyka, UC Santa Cruz) Twoje polecenia są teraz ustalone. Fajnie. Tymczasem zaplecze wnioskowania wykorzystuje pamięci podręczne, dopasowując stare odpowiedzi i ufając skrótom, które zostały zaprojektowane dla szybkości, ale nie dla bezpieczeństwa. Ten wykład bada, jak pamięci podręczne prefiksów, semantyczne i multimodalne mogą być zatruwane, aby zmieniać odpowiedzi, ukrywać złośliwe wejścia i omijać audyty oparte na LLM w wspólnych systemach serwujących. Zbadamy ataki demonstrowane przeciwko frameworkom takim jak vLLM i GPTCache, a następnie omówimy praktyczne środki obronne dla zabezpieczania warstwy pamięci podręcznej. 📍 Hacker Dojo, Mountain View 🕕 14:30 Ten sam format małych grup, co ostatnio. Przynieś papier, nad którym pracujesz, odkrycie, które leży na twojej półce, łańcuch eksploatacji, nad którym pracujesz, lub obronę, którą chcesz przetestować w obecności ludzi, którzy będą stawiać opór. Agenda będzie naszym odniesieniem. Jeszcze bardziej wartościowe jest to, co pokój chce zgłębić. Aby wziąć udział lub zaprezentować artykuł/projekt/wszystko związane z bezpieczeństwem AI, skontaktuj się drogą mailową na adres [email protected].