2001: Агентское Одиссея в Моделировании Угроз

«2001: Агентское Одиссея» — это практическое, открытое мероприятие, на котором мы моделируем угрозы системы HAL 9000 из «2001: Космическая одиссея», представляя ее как современную агентную ИИ-систему (LLM + инструменты + разрешения + побочные эффекты).Я приношу DFD HAL, и вместе мы определяем границы доверия и проводим классическую идентификацию угроз «что может пойти не так?». Участники затем разделяются на небольшие группы, чтобы построить ветви дерева атак и перевести их в анализ надежности (FTA) с использованием логики AND/OR и минимальных разрезов, включая легкие оценки вероятности для приоритизации наиболее вероятных цепочек сбоев.Мы завершаем, превращая эти пути сбоев в идеи для тестирования, готовые к автоматизации (инъекция сбоев, инварианты, доказательства), а также по желанию составляем структурированную модель угроз HAL для подачи в Библиотеку моделей угроз OWASP. Проект создан так, чтобы любой мог внести свой вклад за 10-15 минут, тогда как продвинутые участники могут углубиться в FTA и приоритизацию. Каждая стадия разделена так, чтобы обеспечить возможность подключения в любое время.