מודלים מפריעים אבטחת איי איי

מודלים מפריעים🚨 מפגש 5: הדלפה ובנייה מהדורהחלק 1 - LLM02: גילוי מידע רגישהמידע שיישומי איי איי מדליפים: מפתחות API, רישומי לקוחות, פקודות מערכת, שיחות של אנשים אחרים. קטגוריה זו דורגה במקום ה-6 ב-OWASP Top 10 המקורי עבור LLMs. בעדכון 2026 היא זינקה למקום ה-2, מיד אחרי הזרקת פקודות, והיא שומרת על המקום הזה ב-2026. נעבור על איך ההדלפות הללו מתרחשות בפועל. רובם לא צריכים פריצה, רק שימוש רגיל, ומה באמת עוצר אותן.חלק 2: תרגול עיצוב: לבנות מערכת סוכן מאובטחתמשהו חדש במפגש הזה. במקום לדבר רק על מערכות פגומות, אנחנו מעצבים אחת שלא פגומה. יחד נבנה מודל איום עבור אפליקציית איי איי סוכנת, היכן שהיא יכולה להדליף, היכן שהיא יכולה להיחטף - ואז נשרטט ארכיטקטורה מאובטחת עבורה. אתם עושים את העיצוב המעשיתי, לא רק מקשיבים.דבר קודם, אחר כך התרגול, ואז רצפה פתוחה. אין הצעות של ספקים. מתחילים די מקובלים!📩 RSVP (או להציג במפגש עתידי): [email protected]📅 9 באוגוסט · 14:30 - 16:30📍 Hacker Dojo, Mountain View