הערכות אבטחת AI מעשיות באמצעות OWASP AISVS

איך בעצם מאמתים שמערכת AI היא בטוחה? בסדנה הזו, מנהל פרויקט סטנדרט האימות לאבטחת AI של OWASP (AISVS) ג'ים מניקו יעבור על תרחישים מעשיים להערכה באמצעות ה-AISVS של OWASP. נעבור על דרישות אמתיות מפרקים בנושא הגנה מפני הזרקת קלט, אבטחת פעולה אייגנטית, חיזוק מסדי נתונים מודולאריים (RAG) ובקרות בטיחות פלט, ונראה מה זה "לאמת" נראה בפועל מול מערכות רצה. משתתפים יעזבו עם הבנה מעשית של איך לתחום הערכת אבטחת AI, לבחור רמות אימות מתאימות, וליישם את דרישות ה-AISVS על יישומים מבוססי LLM, סוכנים אוטונומיים, ואקוסיסטמים מקושרים של כלים (MCP). הביאו מחשב נישא אם תרצו לעקוב.