הכנת העיצוב של PROBE

הפער בין יכולת לאבטחה מאושרת הולך ומתרחב מערכות AI אוטונומיות נשלחות מהר יותר ממה שאנחנו יכולים להעריך אותן. בזמן זה, רגולטורים ברחבי האיחוד האירופי, ארה"ב, סינגפור וסין דורשים בדיקות עוינות מתועדות. רוב הצוותים עדיין לא מחזיקים בכלים או שיטת עבודה כדי לעמוד בדרישה זו. PROBE הוא סדנת עיצוב הערכה מעשית שבה מפתחים וחוקרים שאכפת להם מאבטחת AI + בטיחות נפגשים כדי לשתף ולעצב יחד שיטות הערכה. PROBE נועדה כמפגש דיון x עבודה לשיתוף מערכי נתונים סטנדרטיים, כלי בדיקה לעומסים וכלים בקוד פתוח שהקהילה יכולה להפנות אליהם כאשר היא מעריכה סוכנים. המטרה היא להתחבר עם מפתחים וחוקרים אחרים שמעוניינים בבטיחות ובביטחון ה-AI - וליצור קבוצת עבודה לביטחון ה-AI. מונה על ידי AI Safety Node/Ecomonitor (www.aisafetynode.com) ומנוהל עם Ojin(https://ojin.ai/). **** תכנית וקבוצת עבודה **** הרצאות: אדם במעגל x הערכת AI, חקר מקרים קצה בהשוואת AI אנשים במעגל x הערכת AI טרבור לורהביר הוא אחד המייסדים של AI Safety Berlin, חלל עבודה וקהילה, עבור אלו שעובדים על הפחתת סיכונים חברתיים מ-AI בברלין, וחוקר עצמאי בבטיחות AI שמתמקד בהשארת בני אדם במעגל במהלך שיפור עצמי חזרתי. לפני שהחל לעבוד באופן עצמאי, הוא בילה 16 חודשים בעבודה עם Redwood Research בפיתוח הערכות בקרת AI וביצוע מחקר פגיעות במצב אוטומטי של Claude Code, ובילה 25 שנים בהקמת והפעלת סטארטאפים באינטרנט ובתוכנה. למד עוד על עבודת הבטיחות שלו כאן. חקר מקרים תוך חיפוש גבולות בהשוואת AI פלוריאן דיטץ הוא חוקר יישור AI ויועץ. הוא ישתף את עבודתו על יצירת תקן לסצינות שהן מחוץ לחלוקה (OOD) עבור מערכות AI הנוכחיות לינקדאין של פלוריאן: https://www.linkedin.com/in/floriandietz/Elective מושבים של סדנת עיצוב עיצוב בדיקות עמידות שתף ועבוד על עיצוב הערכה שבודק מגיני טיסות, מכניקות סירוב ותוצאות (אם יש הערכות קודמות זמינות) כלים + תשתיות להערכה דון בכלים ובתשתיות להערכה. שתף ועבוד על חוטים חוזרים, צינורות מדדים וכלי דיווח שהופכים את הבדיקות העוינות לחוזרות, ולא חד פעמיות. לוח זמנים 18-19:00: פתיחה ודובר אורח בנושא שיטת הערכה מרצים מ-AI Safety Hub בברלין ומוסדות מחקר עצמאיים ידונו בשיטות הערכה ובעלויות מדהימות x חוטים אוטונומיים. 19:00 - 20:00: Sprint עיצוב הערכה: עיצוב הערכה -> Sprint יישום 20:00-20:30: שתף עבודה של עיצוב הערכה דרך עמידה והחלפת חוקרים. האירוע הזה פתוח לכולם. חוקרי בטיחות הבונים תקנים עוינים ומפתחים/מהנדסי ML החוקרים כלים להערכה ימצאו את הערב במיוחד רלוונטי. ******* על Ojin ******* Ojin AixHaus הוא המגרש החדש של AI בברלין. חלל קהילתי משתף שבו מדענים, מהנדסי למידת מכונה, מייסדים, יוצרים ואוהבי AI נפגשים כדי לבנות את עתיד ה-AI. Ojin AixHaus הוא חינם להצטרף, פתוח לבקשות ישראליות למגורי סטארטאפ והם כרגע מעצבים את לוח הזמנים של אירועים לשנת 2026. אם יש לך רעיון דחוף לאירוע, מפגש או האקתון - הביאו את האש שלכם, הם מביאים את החלל! למד עוד כאן: קהילת Ojin AixHaus עקוב אחר Ojin AixHaus ברשתות החברתיות: אינסטגרם: https://www.instagram.com/ojin.ai/ לינקדאין: https://www.linkedin.com/showcase/ojin-aixhaus/?viewAsMember=true X: https://x.com/Ojin_AI Ecomonitor/AI Safety Node: AI Safety Node, יוזמה של Ecomonitor, מביאה חוקרים ומפתחים יחד לפיתוח בטיחות/אבטחת AI ויוזמות קהילתיות. Ecomonitor היא סטודיו מחקר המתמקד בסיכונים מורכבים. קרא עוד על העבודה שלנו כאן: לינקדאין: www.aisafetynode.com https://www.linkedin.com/company/ecomonitor/AI יוזמת Safety Node: www.aisafetynode.com