Charlas de Investigación: Introducción a la Alineación de la Superinteligencia

Description

La mayoría de la investigación en seguridad AI hoy en día, como el trabajo de Anthropic, OpenAI y otros que nuestro grupo de lectura suele cubrir, se centra en métodos empíricos aplicados a la frontera actual, con la esperanza de que la comprensión resultante también se aplique a futuros sistemas. Pero la alineación probablemente debe funcionar a la primera con sistemas que pueden ser cualitativamente diferentes. Un enfoque alternativo comienza con las propiedades que queremos que tengan los futuros sistemas y descompone estas en preguntas fundamentales sobre agencia, razonamiento, automodificación u optimización. En nuestras próximas charlas de investigación, Ouro, un investigador en seguridad AI que trabaja con Orthogonal y coorganiza el seminario teórico de alineación AFFINE, discutirá las propiedades de la superinteligencia, perspectivas de alineación pasadas por alto, evaluará enfoques presentes e introducirá modelos mentales para razonar sobre la alineación en el límite de la capacidad. Cuándo: Viernes, 24 de julio, 16:00-18:00 Dónde: Lumi Otaniemi Hub (4to piso), Aalto. Nos reunimos frente al edificio y salimos juntos hacia la sala de presentación a las 16:00. Si es necesario, contacta en el grupo de telegram: https://t.me/+4WUz4gBTIok3NGQ8