O Problema de Alinhamento: Aprendizado de Máquina e Valores Humanos

Nota: Nosso clube do livro requer que os participantes façam as leituras designadas antes da reunião. Junte-se a nós para nossa série de discussões online do clube do livro sobre, “O Problema de Alinhamento: Aprendizado de Máquina e Valores Humanos” de Brian Christian. Leitura designada para esta semana: Capítulos 5 e 6. Observe: A conclusão da leitura designada é um pré-requisito para a participação. Se você não teve a chance de fazer a leitura, por favor, junte-se a nós em outra ocasião. Sobre o que é este livro? Os sistemas de “aprendizado de máquina” de hoje, treinados por dados, são tão eficazes que os convidamos a ver e ouvir por nós―e tomar decisões em nosso nome. Mas os alarmes estão soando. Nos últimos anos, houve uma erupção de preocupações à medida que o campo do aprendizado de máquina avança. Quando os sistemas que tentamos ensinar, no final, não fazem o que queremos ou o que esperamos, surgem riscos éticos e potencialmente existenciais. Os pesquisadores chamam isso de problema de alinhamento. Os sistemas selecionam currículos até que, anos depois, descobramos que possuem preconceitos de gênero inerentes. Algoritmos decidem fiança e liberdade condicional―e parecem avaliar réus negros e brancos de forma diferente. Não podemos mais supor que nossa solicitação de hipoteca, ou mesmo nossos exames médicos, serão vistos por olhos humanos. E, à medida que veículos autônomos ocupam nossas ruas, estamos colocando cada vez mais nossas vidas em suas mãos. Os modelos matemáticos e computacionais que impulsionam essas mudanças variam em complexidade, desde algo que pode caber em uma planilha até um sistema complexo que poderia credivelmente ser chamado de “inteligência artificial.” Eles estão substituindo constantemente tanto o julgamento humano quanto o software explicitamente programado. No relato envolvente do autor best-seller Brian Christian, conhecemos os “primeiros socorristas” do problema de alinhamento e aprendemos seu plano ambicioso para resolvê-lo antes que nossas mãos estejam completamente fora do volante. Em uma mescla magistral de história e reportagens de campo, Christian traça o crescimento explosivo no campo do aprendizado de máquina e examina sua atual e vasta fronteira. Os leitores encontram uma disciplina que está encontrando suas pernas em meio a um progresso excitante e, às vezes, aterrorizante. Se eles―e nós―teremos sucesso ou falharemos em resolver o problema de alinhamento será uma história humana definidora. Sobre o autor Christian possui diplomas em ciência da computação, filosofia e poesia pela Brown University e pela University of Washington. Como Pesquisador Visitante na University of California, Berkeley, vive em San Francisco. A escrita de Christian foi publicada na The New Yorker, The Atlantic, Wired e The Wall Street Journal, bem como em revistas revisadas por pares, como Cognitive Science. Ele foi apresentado no The Daily Show e Radiolab, e fez palestras no Google, Facebook, Microsoft, no Santa Fe Institute e na London School of Economics. Seu trabalho já ganhou vários prêmios, incluindo publicação em Best American Science & Nature Writing, e foi traduzido para dezenove idiomas. Como funciona este clube do livro. Nossa discussão do livro será distribuída ao longo de várias semanas consecutivas, com reuniões de duas horas todas as terças-feiras à noite. Isso nos dá tempo para explorar as leituras com a profundidade e cuidado que merecem. Por favor, traga suas próprias perguntas e insights instigantes da leitura para compartilhar com o grupo. Gostamos de discussões animadas que desafiam nossas próprias ideias e as do autor e nos permitem aprender uns com os outros -- enquanto desfrutamos de camaradagem! Tudo o que pedimos é que todos sejam tratados como co-iguais, tanto em respeito quanto em tempo de fala aproximado. Sinta-se à vontade para postar (nos Comentários abaixo) quaisquer recursos adicionais que encontrar -- incluindo aqueles que desafiem o autor. Esperamos vê-lo em nossas reuniões de terça-feira!