Autopsja Agenta - Analiza i Naprawa Agentów AI

Sesja warsztatowa analizująca, jak agenci AI rzeczywiście zawodzą z perspektywy bezpieczeństwa — nie ogólne rozmowy o bezpieczeństwie AI, ale konkretne, dobrze udokumentowane tryby awarii, z którymi zespoły borykają się dzisiaj: wstrzykiwanie poleceń poprzez wyniki narzędzi, nadmierna autonomia z powodu zbyt szerokiego dostępu do narzędzi, zatrucie pamięci/kontekstu oraz niebezpieczne zarządzanie wynikami agenta. Pierwsza część to naoczna autopsja celowo skompromitowanego agenta demonstracyjnego, w trakcie której uczestnicy śledzą dokładnie, jak został wykorzystany i co umożliwiło atak. Druga część przybiera charakter antagonizujący: uczestnicy dzielą się na zespoły czerwone i niebieskie w izolowanym piaskownicy — bez zaangażowania prawdziwych systemów ani danych — gdzie zespoły czerwone próbują zmanipulować agenta, aby wyciekły dane lub aby wywołał narzędzia poza jego zakresem, a zespoły niebieskie na bieżąco łatali lukę. Uczestnicy opuszczają sesję z działającą listą kontrolną do audytowania własnego stosu agentów. Bengaluru Tech Week 2026 odbędzie się od 1 do 6 września 2026 roku jako zdecentralizowany tydzień budowania w Bengaluru. BTW jest stworzony dla założycieli, inżynierów, projektantów, inwestorów, operatorów, badaczy, studentów i społeczności budujących z Bengaluru dla Indii i świata. Odkryj tydzień na stronie bengalurutechweek.com