מודלים מפרקים אבטחת AI

מפגש מחקר אבטחת AI מזרח מפרץ חוזר למפגש ממוקד על OWASP LLM01:2026 — הזרקת פקודות. זהו הסיכון הבסיסי ב-OWASP Top 10 עבור יישומי LLM, והמהדורה של 2026 משקפת שנה שבה הזרקת פקודות עברה מתיאוריה לפעולה: חיסול נתונים באמצעות מסמכים נגד Microsoft 365 Copilot (EchoLeak, CVE-2025-32711), פעולות הרסניות מונעות סוכן ב-Amazon Q (AWS-2025-015 AWS-2025-019), ייבוא נתונים מדוייק באמצעים של MCP נגד Supabase, הזרקה בלתי ישירה דרך בעיות GitHub נגד מסייעי קוד מקושרים ל-MCP, ודלתות אחוריות בשרשרת האספקה בחבילות כמו postmark-mcp. נלך דרך דגם האיום מאחורי תקריות אלו — הזרקה ישירה מול הזרקה בלתי ישירה, התקפות על שטח מהימן דרך MCP, הרעלת זיכרון ו-RAG corpus, מטענים מרובי מודלים ואינקלוד-לא-נראה, מחלקת "פאן-טיונינג" נגד מודלים ייצור עם משקלות סגורים — ומה ההגנות באמת עמידות תחת התקפות אדפטיביות. לקצת הכנה, אתם יכולים לקרוא: https://github.com/GenAI-Security-Project/GenAI-LLM-Top10/blob/main/2026LLM01_PromptInjection.md לפני האירוע, כדי להפיק מזה יותר ערך. אותו פורמט קבוצתי קטן כמו בפעם הקודמת. הביאו נייר שאתם עסוקים בו, ממצא שאתם יושבים עליו, שרשרת ניצול שאתם עובדים עליה, או הגנה שאתם רוצים לבדוק מול אנשים שיביאו התנגדות. הרשומה של OWASP LLM01:2026 תהיה ההפניה שלנו, אבל הס agenda הוא מה שהחדר רוצה לחקור. כדי להשתתף או להציג נייר/פרויקט/משהו הקשור לאבטחת AI, פנו במייל ל[email protected].