O Problema do Alinhamento: Aprendizado de Máquina e Valores Humanos

Nota: Nosso clube do livro requer que os participantes façam as leituras designadas antes da reunião. Por favor, junte-se a nós para nossa série de discussões do clube do livro online sobre, “O Problema do Alinhamento: Aprendizado de Máquina e Valores Humanos” de Brian Christian. Leitura designada para esta semana: O Prólogo, Introdução e Capítulos 1 e 2. Por favor, observe: A conclusão da leitura designada é um pré-requisito para participar. Se você não tiver a chance de fazer a leitura, por favor, junte-se a nós em outra ocasião. Sobre o que é este livro? Os sistemas de “aprendizado de máquina” de hoje, treinados por dados, são tão eficazes que os convidamos a ver e ouvir por nós - e a tomar decisões em nosso nome. Mas o alerta está soando. Nos últimos anos, houve uma explosão de preocupações à medida que o campo do aprendizado de máquina avança. Quando os sistemas que tentamos ensinar não fazem, no final, o que queremos ou o que esperamos, riscos éticos e potencialmente existenciais emergem. Pesquisadores chamam isso de problema de alinhamento. Sistemas filtram currículos até que, anos depois, descobrimos que eles têm preconceitos de gênero inerentes. Algoritmos decidem fiança e liberdade condicional - e parecem avaliar réus negros e brancos de maneira diferente. Não podemos mais assumir que nossa solicitação de hipoteca, ou mesmo nossos testes médicos, serão vistos por olhos humanos. E, à medida que veículos autônomos compartilham nossas ruas, estamos cada vez mais colocando nossas vidas em suas mãos. Os modelos matemáticos e computacionais que impulsionam essas mudanças variam em complexidade desde algo que pode caber em uma planilha até um sistema complexo que poderia ser chamado de “inteligência artificial”. Eles estão substituindo gradualmente tanto o julgamento humano quanto o software programado explicitamente. Na cativante narrativa do autor best-seller Brian Christian, encontramos os “primeiros socorristas” do problema de alinhamento e aprendemos seu ambicioso plano para resolvê-lo antes que nossas mãos estejam completamente fora do volante. Em uma mistura magistral de história e relatórios no terreno, Christian traça o crescimento explosivo no campo do aprendizado de máquina e examina sua atual fronteira espalhada. Os leitores encontram uma disciplina encontrando seus pés em meio a um progresso emocionante e, às vezes, aterrorizante. Se eles - e nós - tivermos sucesso ou falharmos em resolver o problema de alinhamento será uma história humana definidora. Sobre o autor Christian possui graus em ciência da computação, filosofia e poesia pela Brown University e pela University of Washington. Um Pesquisador Visitante na Universidade da Califórnia, Berkeley, ele vive em San Francisco. A escrita de Christian apareceu na The New Yorker, The Atlantic, Wired e The Wall Street Journal, bem como em revistas revisadas por pares como Cognitive Science. Ele foi apresentado no The Daily Show e Radiolab, e deu palestras no Google, Facebook, Microsoft, no Santa Fe Institute e na London School of Economics. Seu trabalho ganhou vários prêmios, incluindo publicação no Best American Science & Nature Writing, e foi traduzido para dezenove idiomas. Como funciona este clube do livro. Nossa discussão do livro será distribuída ao longo de várias semanas consecutivas, com reuniões de duas horas todas as terças-feiras à noite. Isso nos dá tempo para explorar as leituras com a profundidade e o cuidado que elas merecem. Por favor, traga suas próprias perguntas e insights provocativos da leitura para compartilhar com o grupo. Nós gostamos de discussões animadas que desafiam nossas próprias ideias e as do autor e nos permitem aprender uns com os outros - enquanto desfrutamos da camaradagem! Tudo o que pedimos é que todos sejam tratados como co-iguais, tanto em respeito quanto em tempo de fala aproximado. Fique à vontade para postar (nos Comentários abaixo) quaisquer recursos adicionais que você encontrar - incluindo aqueles que desafiam o autor. Esperamos vê-lo em nossas reuniões de terça-feira!