Исследовательские лекции: Введение в согласование суперintelligence

Description

Большинство исследований по безопасности ИИ сегодня, таких как работа Anthropic, OpenAI и других, которые обычно рассматривает наша читательская группа, сосредоточено на эмпирических методах, применяемых к актуальным достижениям, надеясь, что полученное понимание также применимо к будущим системам. Однако согласование, вероятно, должно сработать с первого раза для систем, которые могут быть качественно другими. Альтернативный подход начинается с свойств, которые мы хотим, чтобы будущие системы имели, и разбивает их на фундаментальные вопросы о агентности, рассуждениях, самореформации или оптимизации. На наших следующих исследовательских лекциях Оуро, исследователь безопасности ИИ, работающий с Orthogonal и соорганизующий теоретический семинар AFFINE по согласованию, обсудит свойства суперintelligence, упущенные перспективы согласования, оценит текущие подходы и введет ментальные модели для рассуждений о согласовании на пределе возможностей. Когда: пятница, 24 июля, 16:00-18:00 Где: Lumi Otaniemi Hub (4-й этаж), Aalto Мы собираемся перед зданием и вместе уходим в презентационный зал в 16:00. При необходимости свяжитесь через телеграм-группу: https://t.me/+4WUz4gBTIok3NGQ8