סוכנים וניצול: פריצת OWASP VWAD

מודלים לשוניים גדולים התפתחו במהירות מממשקי שיחה לסוכנים עצמאים היכולת לקיים אינטראקציה עם מערכות בעולם האמיתי. בסדנה המעשית הזו, משתתפים יבנו סוכן אבטחה מונע AI מהיסוד וילמדו את העקרונות המרכזיים של בדיקות חדירה סוכן באמצעות יישומים פגיעים מכוונים של OWASP. במקום פשוט להנחות LLM, המשתתפים יחקור כיצד להעניק לסוכן יכולות מעשיות - כולל גישה לשורת פקודה, גישה לדפדפן, ואורגניזציה כדי לגלות, לנצל, ולתעד פגיעויות באחד מהיישומים הפגיעים הרשומים במדריך היישומים הפגיעים של OWASP (VWAD). בדרך, נדון בארכיטקטורה של סוכני אבטחה יעילים, אינטגרציה של כלים, זיכרון, ופרקטיקות ביצוע בטוחות. הסדנה גם מציגה זרימת עבודה של הערכה איטרטיבית. המשתתפים ינתחו פגיעויות שהסוכן לא הצליח לזהות, ישוו תוצאות מול ממצאים מוכרים, וישתמשו בפערים הללו כדי לשפר את ההנחיות, בחירת הכלים, זרימות העבודה, וקריטריוני ההערכה. הגישה האיטרטיבית הזו מדגימה כיצד סוכני אבטחה מודרניים מבוססי AI יכולים לשפר את היעילות שלהם באופן מתמשך דרך בדיקה שיטתית ומשוב ולא על ידי הסתמכות על ביצוע בודד. בסוף המפגש, המשתתפים יבנו סוכן אבטחה מונע AI פונקציונלי, יבינו את היסודות של כלים וסנכרון לסוכנים, ויעזבו עם טכניקות מעשיות להערכה ושיפור של יישומים לבדוק אבטחה בעזרת AI.