Беседы о вычислениях: Брюс Шнайер о взломе ИИ

Кафедра компьютерных наук Торонто в партнерстве с Институтом Вектора и Институтом Шварца-Рейсман по технологиям и обществу с гордостью представляет Беседу о вычислениях с профессором Брюсом Шнайером. Взлом ИИ Аннотация: Люди взламывают системы ИИ. Люди взламывают с помощью систем ИИ. Но также ИИ взламывают человеческие системы. Они находят и используют уязвимости в компьютерном коде, и вскоре они будут делать то же самое со всеми другими типами кодов. Например: налоговый код можно взломать. Уязвимости называются лазейками, эксплуатации называются стратегиями уклонения от налогов, а вредители называются бухгалтерами. Аналогично, финансовые рынки можно взломать. То же самое можно сделать с любой системой правил или законов, включая саму демократию. ИИ будет взламывать эти системы по нашему запросу, и они также будут делать это инстинктивно, органически - и, возможно, теми способами, которые мы сразу не видим. Нам нужно рассмотреть мир, где все более сложные взломы наших социальных, экономических и политических систем будут обнаруживаться на компьютерных скоростях, а затем использоваться в масштабах и объеме вычислений. Прямо сейчас наши системы устранения этих проблем работают с человеческой скоростью, что не будет достаточно. Биография: Брюс Шнайер - всемирно известный специалист по безопасности, которого The Economist называет «гуру безопасности». Он является автором более одного десятка книг, включая его последнюю, «Переп wiring демократии», а также сотен статей и эссе, и многих других академических работ. Его влиятельная рассылка Crypto-Gram и его блог Schneier on Security читают более 250,000 человек. Он давал показания перед Конгрессом, часто выступает на телевидении и радио, работал в нескольких государственных технических комитетах и регулярно цитируется в прессе.