O Problema do Alinhamento: Aprendizado de Máquina e Valores Humanos

Nota: Nosso clube do livro requer que os participantes façam as leituras designadas antes da reunião. Por favor, junte-se a nós para nossa série de discussões online do clube do livro sobre “O Problema do Alinhamento: Aprendizado de Máquina e Valores Humanos” de Brian Christian. A leitura designada para esta semana: Capítulos 7 e 8. Por Favor, Note: A conclusão da leitura designada é um pré-requisito para participação. Se você não tiver a oportunidade de fazer a leitura, por favor, junte-se a nós em outra ocasião. Sobre o que é este livro? Os sistemas de “aprendizado de máquina” de hoje, treinados por dados, são tão eficazes que os convidamos a ver e ouvir por nós―e a tomar decisões em nosso nome. Mas os alarmes estão soando. Nos últimos anos, houve uma erupção de preocupações à medida que o campo do aprendizado de máquina avança. Quando os sistemas que tentamos ensinar não farão, no final, o que queremos ou o que esperamos, riscos éticos e potencialmente existenciais emergem. Os pesquisadores chamam isso de problema de alinhamento. Sistemas analisam currículos até que, anos depois, descobrimos que eles têm preconceitos de gênero inerentes. Algoritmos decidem fiança e liberdade condicional―e parecem avaliar réus negros e brancos de forma diferente. Não podemos mais assumir que nossa solicitação de hipoteca, ou mesmo nossos testes médicos, serão vistos por olhos humanos. E à medida que veículos autônomos compartilham nossas ruas, estamos colocando nossas vidas cada vez mais em suas mãos. Os modelos matemáticos e computacionais que impulsionam essas mudanças variam em complexidade desde algo que pode caber em uma planilha até um sistema complexo que poderia ser credivelmente chamado de “inteligência artificial.” Eles estão substituindo continuamente tanto o julgamento humano quanto o software programado explicitamente. No relato cativante do autor best-seller Brian Christian, encontramos os “primeiros socorristas” do problema de alinhamento e conhecemos seu ambicioso plano para resolvê-lo antes que nossas mãos estejam completamente fora do volante. Em uma mistura magistral de história e reportagens no local, Christian traça o crescimento explosivo no campo do aprendizado de máquina e examina sua fronteira atual e extensa. Os leitores encontram uma disciplina que está se firmando em meio a um progresso emocionante e, às vezes, aterrorizante. Se eles―e nós―suscitarem sucesso ou fracasso em resolver o problema de alinhamento será uma história humana definidora. Sobre o autor Christian possui graus em ciência da computação, filosofia e poesia pela Universidade de Brown e pela Universidade de Washington. Ele é um Pesquisador Visitante na Universidade da Califórnia, Berkeley, e vive em San Francisco. A escrita de Christian apareceu na The New Yorker, The Atlantic, Wired e The Wall Street Journal, além de periódicos revisados por pares, como Cognitive Science. Ele foi destaque no The Daily Show e no Radiolab, e deu palestras na Google, Facebook, Microsoft, no Instituto Santa Fe e na London School of Economics. Seu trabalho ganhou vários prêmios, incluindo publicação na Best American Science & Nature Writing, e foi traduzido para dezenove idiomas. Como funciona este clube do livro. Nossa discussão do livro será distribuída ao longo de várias semanas consecutivas, com reuniões de duas horas toda terça-feira à noite. Isso nos dá tempo para explorar as leituras com a profundidade e cuidado que elas merecem. Por favor, traga suas próprias perguntas e insights provocadores da leitura para compartilhar com o grupo. Gostamos de discussões animadas que desafiam nossas próprias ideias e as do autor e nos permitem aprender uns com os outros -- enquanto desfrutamos da camaradagem! Tudo o que pedimos é que todos sejam tratados como co-iguais, tanto em respeito quanto em tempo de fala aproximado. Sinta-se à vontade para postar (nos comentários abaixo) quaisquer recursos adicionais que você encontrar -- incluindo aqueles que desafiam o autor. Esperamos vê-lo em nossas reuniões de terça-feira!