שרטוטי הסיבה על ידי Together Fund

ממשיכים את הסדרה שלנו של סלונים המחקר. שרטוטי הסיבה הוא ערב של Together לעסוק בעומק ברעיון יחיד, בחדר קטן, עם האנשים שבאמת בונים ומחקרים אותו.למה הסברה, למה עכשיו?הסברה היא הבעיה של כך שמערכות AI אכן עושות מה שאנחנו מתכוונים - לא רק מה שביקשנו. ככל שהמודלים הופכים ליכולים יותר, הפער בין "יכולים" ל"מסונכרנים" הופך לבעיה הפתוחה המשמעותית ביותר בתחום.התחום התמקד סביב ארבע מטרות - עמידות, פרשנות, שליטה, אתיקה (RICE) - והתחלק לשני חזיתות גדולות: הסברה קדימה (אימון מערכות להיות מסונכרנות - RLHF, מודל העדפות, פיקוח הניתן להרחבה על משימות שאנשים לא יכולים לפקח עליהן בקלות) והסברה אחורה (להוכיח שהן באמת מסונכרנות - הערכות בטיחות, פרשנות, ממשלה).שאלה אמיתית עכשיו על השולחן: ככל שהמודלים מתחילים לבצע משימות שאנחנו לא יכולים לפקח עליהן ביעילות, האם הסברה מתאימה ליכולת - או שקטה נופלת מאחור?מי יהיה בחדרחוקרים העובדים על הסברה, פרשנות והערכותמייסדים בונים עם מודלים חדשים שחיים עם הטריידאופים הללו כל יוםהמהנדסים החדים ביותר שמחשבים על פיקוח, צוותים אדומים ובטיחותכל אחד שמעוניין אמיתית כיצד נשמור שמערכות יכולות יכוונו בדרך הנכונהקישור לקריאה מקדימה רלוונטית - https://arxiv.org/abs/2310.19852איך הלילה מתנהלפתחנו על ידי גיוס הנושא. אז האדם הכי מעמיק בזה מגדיר את הסצנה - מה אמיתי, מה שהם רואים, השאלות הפתוחות. משם הרצפה נפתחת: אתה קופץ פנימה, דוחף חזרה, בונה על זה.זה דיון, לא הרצאה. רופף בעיצוב; הדברים הטובים קורים כשחדר חושב יחד, לא כשמישהו מדריך במה.stage.יש לנו מספר מוגבל של מקומות כדי להבטיח שיחה עשירה אז RSVP מוקדם!