2001: אודיסיאה סוכנינית במודל סיכון

“2001: אודיסיאה סוכנינית” הוא סדנה אינטראקטיבית, פתוחה שבה אנו מודלים סיכון למערכת HAL 9000 מתוך הסרט 2001: אודיסיאה בחלל כאילו הייתה מערכת בינה מלאכותית סוכנינית מודרנית (LLM + כלים + הרשאות + תופעות לוואי). אני מביא דיאגרמת DFD של HAL, ושם לב יחד גבולות אמון ועושים זיהוי סיכונים קלאסי של “מה יכול להשתבש?”. המשתתפים לאחר מכן מתחלקים לקבוצות קטנות לבניית ענפי עץ התקפה ומתרגמים אותם לניתוח עץ כפול (FTA) באמצעות לוגיקת AND/OR וסטים מינימליים, כולל הערכות הסתברות קלות על מנת להעדיף את שרשראות הכישלון הסבירות ביותר. אנחנו מסיימים על ידי הפיכת דרכי הכישלון לרעיונות בדיקה מוכנים לאוטומציה (הזרקת תקלות, אינוואריאנטים, ראיות), ולחלופין טיוטה של מודל סיכון מבנה ל-HAL להגשה לספריית מודלי סיכון של OWASP. נועד כך שכל אחד יכול לתרום ב-10-15 דקות, בזמן שמשתתפים מתקדמים יכולים להתעמק ב-FTA ובעלויות העדפה. כל שלב מחולק כך שמאפשר גם הגעה פתוחה בכל זמן.