Gespräche über Informatik: Bruce Schneier über Hacking von KI

Die Fakultät für Informatik an der Universität Toronto präsentiert stolz in Zusammenarbeit mit dem Vector Institute und dem Schwartz Reisman Institute for Technology and Society Gespräche über Informatik mit Professor Bruce Schneier. Hacking von KI Zusammenfassung: Menschen hacken KI-Systeme. Menschen hacken mit KI-Systemen. Aber auch KI hackt Menschliche Systeme. Sie finden und nutzen Schwachstellen im Computercode aus, und bald werden sie dasselbe mit allen möglichen anderen Codes tun. Zum Beispiel: Der Steuercode kann gehackt werden. Schwachstellen werden Schlupflöcher genannt, Ausnutzungen werden Steuergestaltungsstrategien genannt, und Black Hats werden Buchhalter genannt. Ähnlich können auch Finanzmärkte gehackt werden. Ebenso kann jedes Regel- oder Rechtssystem, einschließlich der Demokratie selbst, gehackt werden. KIs werden diese Systeme auf unser Verlangen hacken, und sie werden dies auch instinktiv, organisch - und möglicherweise auf Weisen, die wir nicht sofort erkennen. Wir müssen eine Welt in Betracht ziehen, in der immer ausgeklügeltere Hacks unserer sozialen, wirtschaftlichen und politischen Systeme auf Computer-Geschwindigkeit entdeckt und dann im Computermaßstab und im Umfang ausgenutzt werden. Im Moment funktionieren unsere Systeme zur Behebung dieser Systeme in menschlichem Tempo, was nicht gut genug sein wird. Bio: Bruce Schneier ist ein international renommierter Sicherheitstechnologe, der von The Economist als „Sicherheitsguru“ bezeichnet wird. Er ist Autor von über einem Dutzend Bücher – darunter sein neuestes, Rewiring Democracy – sowie Hunderte von Artikeln und Essays und viele weitere wissenschaftliche Arbeiten. Sein einflussreicher Newsletter Crypto-Gram und sein Blog Schneier on Security werden von über 250.000 Menschen gelesen. Er hat vor dem Kongress ausgesagt, ist ein häufig gesehener Gast im Fernsehen und Radio, hat in mehreren technischen Komitees der Regierung gedient und wird regelmäßig in der Presse zitiert.