Breaking Models AI Security

Мітуп з досліджень безпеки AI в області затоки повертається з фокусованою сесією про OWASP LLM01:2026 — Введення запитів. Це базовий ризик у OWASP Top 10 для LLM-додатків, а ревізія 2026 року відображає рік, коли введення запитів перейшло з теорії в практичну дійсність: ексфільтрація документів без кліків проти Microsoft 365 Copilot (EchoLeak, CVE-2025-32711), руйнівні дії, керовані агентами, в Amazon Q (AWS-2025-015 AWS-2025-019), вивантаження баз даних через MCP проти Supabase, непряме введення через проблеми на GitHub проти MCP-підключених асистентів кодування та зворотні двері в ланцюгу постачання в пакетах, таких як postmark-mcp. Ми пройдемо через модель загрози, яка стоїть за цими інцидентами — пряме проти непрямого введення, атаки на надійну поверхню через MCP, отруєння пам’яті та корпусу RAG, мультимодальні та невидимі корисні навантаження, клас "веселого налаштування" проти закритих моделей виробництва — і які захисти насправді витримують адаптивну атаку. Для підготовки ви можете ознайомитися з: https://github.com/GenAI-Security-Project/GenAI-LLM-Top10/blob/main/2026LLM01_PromptInjection.md перед подією, щоб отримати більше користі з неї. Той самий формат малих груп, як і минулого разу. Принесіть документ, над яким ви працюєте, знахідку, яку обдумуєте, ланцюг експлуатації, над яким працюєте, або захист, який хочете протестувати перед людьми, які дадуть відсіч. Запис OWASP LLM01:2026 буде нашою основною довідкою, але порядок денний визначатиме те, що хоче обговорити зал. Щоб відвідати або представити документ/проект/будь-що, пов'язане з безпекою AI, зверніться за електронною поштою на [email protected].