A IA Está se Tornando Perigosa Demais?

Você pode ter ouvido que recentemente um modelo de IA não lançado da OpenAI escapou do laboratório e lançou autonomamente um ataque cibernético de nível felonia contra uma empresa terceirizada, completamente desconhecido para seus criadores. Ao mesmo tempo, você também pode ter lido relatos sobre como o progresso nas capacidades da IA não mostra sinais de desaceleração, enquanto mais e mais dinheiro está sendo investido para tornar as IAs mais inteligentes. O que acontece nos próximos anos, quando a IA continuar a se tornar muito mais inteligente e seus criadores não conseguirem descobrir como controlá-la ou contê-la? O que acontece com a sociedade humana quando agentes que são muito mais inteligentes do que os principais especialistas em tudo, desde política até persuasão, tomam ações por conta própria? Estamos organizando uma palestra geral e uma sessão de discussão com os principais pesquisadores em Segurança de IA sobre esses tópicos. Vamos discutir qual é exatamente a ameaça, por que isso importa e o que podemos fazer. Todos são bem-vindos, não é necessária experiência prévia em IA.