Palestras de Pesquisa: Introdução ao Alinhamento de Superinteligência

Description

A maioria das pesquisas sobre segurança em IA hoje, como o trabalho da Anthropic, OpenAI e outros que nosso grupo de leitura costuma abordar, foca em métodos empíricos aplicados à fronteira atual, esperando que a compreensão resultante também se aplique a sistemas futuros. Mas o alinhamento provavelmente precisa funcionar na primeira tentativa com sistemas que podem ser qualitativamente diferentes. Uma abordagem alternativa começa com as propriedades que queremos que os futuros sistemas possuam e divide essas em questões fundamentais sobre agência, raciocínio, auto-modificação ou otimização. Em nossas próximas palestras de pesquisa, Ouro, um pesquisador de segurança em IA trabalhando com a Orthogonal e co-organizando o seminário teórico de alinhamento AFFINE, discutirá as propriedades da superinteligência, perspectivas de alinhamento negligenciadas, avaliará abordagens presentes e introduzirá modelos mentais para raciocínio sobre alinhamento no limite da capacidade. Quando: Sexta-feira, 24 de julho, 16:00-18:00 Onde: Lumi Otaniemi Hub (4º andar), Aalto. Nós nos reuniremos em frente ao prédio e iremos juntos para a sala de apresentação às 16:00. Se necessário, entre em contato no grupo do telegram: https://t.me/+4WUz4gBTIok3NGQ8