שיחות מחקר: מבוא לאליינמנט של סופר אינטליגנציה

רוב המחקר בנושא ביטחון בינה מלאכותית כיום, כגון העבודה של Anthropic, OpenAI ואחרים שכקבוצת הקריאה שלנו בדרך כלל עוסקת בהם, מתמקד בשיטות אמפיריות המיועדות לגבול הנוכחי, תוך תקווה שהבנתנו המתקבלת תתאים גם למערכות העתיד. אבל האליינמנט כנראה צריך לעבוד בניסיון הראשון עם מערכות שעשויות להיות שונות איכותית. גישה חלופית מתחילה עם התכונות שאנו רוצים שהמערכות העתידיות יהיו בעלותן ומפרקת אותן לשאלות יסודיות על סוכנויות, רציונליות, שינוי עצמי או אופטימיזציה. בשיחות המחקר הבאות שלנו, אורו, חוקר ביטחון בינה מלאכותית העובד עם Orthogonal ומארגן יחד את סמינר האליינמנט התיאורטי AFFINE, ידון בתכונות של סופר אינטליגנציה, נקודות מבט על אליינמנט שלא זכו לתשומת לב, יעריך גישות נוכחיות, ויעניק מודלים מנטליים לרציונליזציה על אליינמנט בגבול היכולת. מתי: יום שישי, 24 ביולי, 16.00-18.00 איפה: לומי אוטניומי הוב (קומה 4), אאלטו. ניפגש מול הבניין ונצא יחד לחדר ההצגות בשעה 16.00. אם צריך, תוכל לפנות בקבוצת הטלגרם: https://t.me/+4WUz4gBTIok3NGQ8