Conversas em Computação: Bruce Schneier sobre Hacking de IA

O Departamento de Ciência da Computação da Universidade de Toronto, em parceria com o Instituto Vector e o Instituto Schwartz Reisman para Tecnologia e Sociedade, tem o orgulho de apresentar a Conversa em Computação com o Professor Bruce Schneier. Hacking de IA Resumo: Os humanos estão hackeando sistemas de IA. Os humanos estão hackeando com sistemas de IA. Mas também, IAs estão hackeando sistemas humanos. Elas estão encontrando e explorando vulnerabilidades no código de computador, e em breve farão o mesmo com todos os tipos de outros códigos. Por exemplo: o código tributário pode ser hackeado. Vulnerabilidades são chamadas de brechas, explorações são chamadas de estratégias de evasão fiscal, e hackers mal-intencionados são chamados de contadores. Da mesma forma, os mercados financeiros podem ser hackeados. Qualquer sistema de regras ou leis, incluindo a própria democracia, também pode ser hackeado. As IAs hackearão esses sistemas a nosso pedido, e também o farão de forma inata, orgânica – e possivelmente de maneiras que não vemos imediatamente. Precisamos considerar um mundo onde hacks cada vez mais sofisticados de nossos sistemas sociais, econômicos e políticos sejam descobertos em velocidades de computação, e depois explorados em escala e escopo computacional. Neste momento, nossos sistemas de correção desses sistemas operam a um ritmo humano, que não será bom o suficiente. Bio: Bruce Schneier é um tecnólogo de segurança internacionalmente renomado, chamado de “guru de segurança” pela The Economist. É autor de mais de uma dúzia de livros — incluindo o mais recente, Rewiring Democracy — além de centenas de artigos e ensaios, e muitos mais trabalhos acadêmicos. Seu influente boletim Crypto-Gram e seu blog Schneier on Security são lidos por mais de 250.000 pessoas. Ele já testemunhou perante o Congresso, é um convidado frequente na televisão e no rádio, atuou em vários comitês técnicos do governo e é frequentemente citado na imprensa.