Modele AI Bezpieczeństwa

Spotkanie badawcze dotyczące bezpieczeństwa AI w Bay Area powraca z ukierunkowaną sesją na OWASP LLM01:2026 — Wstrzyknięcie zapytania. Jest to podstawowe ryzyko w OWASP Top 10 dla aplikacji LLM, a rewizja 2026 odzwierciedla rok, w którym wstrzyknięcie zapytania przeszło z etapu teoretycznego do operacyjnego: wyciek danych poprzez dokumenty w Microsoft 365 Copilot (EchoLeak, CVE-2025-32711), działania destrukcyjne kierowane przez agenta w Amazon Q (AWS-2025-015 AWS-2025-019), zrzuty baz danych mediowane przez MCP przeciwko Supabase, pośrednie wstrzyknięcie przez problemy GitHub przeciwko asystentom kodowania połączonym z MCP oraz backdoory w łańcuchu dostaw w pakietach takich jak postmark-mcp. Przeanalizujemy model zagrożeń związany z tymi incydentami — wstrzyknięcie bezpośrednie vs. pośrednie, ataki na powierzchnię zaufania za pomocą MCP, zatrucie pamięci i korpusów RAG, multimodalne i niewidzialne ładunki Unicode, klasa "fun-tuning" przeciwko modelom produkcyjnym o zamkniętych wagach — oraz to, jakie obrony rzeczywiście wytrzymują w obliczu adaptacyjnego ataku. Na przygotowanie możecie przeczytać: https://github.com/GenAI-Security-Project/GenAI-LLM-Top10/blob/main/2026LLM01_PromptInjection.md przed wydarzeniem, aby uzyskać z niego więcej wartości. Taki sam format małych grup jak ostatnim razem. Przynieś artykuł, nad którym się zastanawiasz, odkrycie, które masz w zanadrzu, ciąg eksploatacyjny, nad którym pracujesz, lub strategię obrony, którą chcesz przetestować przed ludźmi, którzy będą stawiać opór. Pozycja OWASP LLM01:2026 będzie naszym punktem odniesienia, ale agenda zależy od tego, co grupa chce zbadać. Aby uczestniczyć lub zaprezentować artykuł/projekt/wszystko związane z bezpieczeństwem AI, skontaktuj się mailowo pod adresem [email protected].