Разрывающие модели безопасности ИИ

Description

Собрание по исследованию безопасности ИИ в районе залива возвращается с фокусированной сессией по OWASP LLM01:2026 — инжекция запросов.Это основополагающий риск в OWASP Top 10 для LLM приложений, и пересмотр 2026 года отражает год, когда инжекция запросов перешла от теории к практике: эксфильтрация документов с нулевым нажимом против Microsoft 365 Copilot (EchoLeak, CVE-2025-32711), разрушительные действия, управляемые агентом, в Amazon Q (AWS-2025-015 AWS-2025-019), сбросы баз данных с использованием MCP против Supabase, косвенная инжекция через проблемы GitHub против MCP-соединенных кодирующих помощников и бэкдоры в цепочке поставок в пакетах, таких как postmark-mcp.Мы пройдемся по модели угроз, стоящей за этими инцидентами — прямые vs. косвенные инъекции, атаки на доверенную поверхность через MCP, отравление памяти и корпуса RAG, мультимодальные и невидимые Unicode полезные нагрузки, класс "веселой настройки" против закрытых производственных моделей — и что дефенции на самом деле выдерживают адаптивные атаки. Для подготовки вы можете ознакомиться с материалом: https://github.com/GenAI-Security-Project/GenAI-LLM-Top10/blob/main/2026LLM01_PromptInjection.md перед мероприятием, чтобы получить больше пользы от него.Формат в малых группах, как в прошлый раз. Принесите документ, над которым вы размышляли, находку, которой вы обладаете, цепочку эксплуатации, над которой вы работаете, или защиту, которую вы хотите протестировать перед людьми, готовыми протестировать ваши идеи.Запись OWASP LLM01:2026 будет нашим опорным справочным материалом, но повестка дня зависит от того, что хочет исследовать группа. Чтобы присоединиться или представить документ/проект/что-то, связанное с безопасностью ИИ, обращайтесь по электронной почте на [[email protected]](mailto:[email protected]).