Conversations en informatique : Bruce Schneier sur le piratage de l'IA

Le Département d'informatique de l'Université de Toronto, en partenariat avec l'Institut Vector et l'Institut Schwartz Reisman pour la technologie et la société, a le plaisir de présenter la Conversation en informatique avec le professeur Bruce Schneier. Piratage de l'IA Résumé : Les humains piratent des systèmes d'IA. Les humains piratent avec des systèmes d'IA. Mais aussi, les IA piratent les systèmes humains. Elles trouvent et exploitent des vulnérabilités dans le code informatique, et elles feront bientôt de même avec toutes sortes d'autres codes. Par exemple : le code fiscal peut être piraté. Les vulnérabilités sont appelées des échappatoires, les exploits sont appelés des stratégies d'évitement fiscal, et les chapeaux noirs sont appelés des comptables. De même, les marchés financiers peuvent être piratés. Tout système de règles ou de lois, y compris la démocratie elle-même, peut l'être. Les IA pirateront ces systèmes à notre demande, et elles le feront également de manière innée, organique – et possiblement de façons que nous ne voyons pas immédiatement. Nous devons envisager un monde où des piratages de plus en plus sophistiqués de nos systèmes sociaux, économiques et politiques sont découverts à des vitesses informatiques, puis exploités à l'échelle et à la portée informatiques. En ce moment, nos systèmes de correction de ces systèmes fonctionnent à un rythme humain, ce qui ne sera pas suffisant. Bio : Bruce Schneier est un technologiste de la sécurité de renommée internationale, qualifié de « gourou de la sécurité » par The Economist. Il est l'auteur de plus d'une douzaine de livres, dont le dernier, Rewiring Democracy, ainsi que de centaines d'articles et d'essais, et de nombreux autres articles académiques. Sa newsletter influente Crypto-Gram et son blog Schneier on Security sont lus par plus de 250 000 personnes. Il a témoigné devant le Congrès, est un invité fréquent à la télévision et à la radio, a siégé à plusieurs comités techniques gouvernementaux, et est régulièrement cité dans la presse.