Gesprekken in Computing: Bruce Schneier over Hacking AI

De Faculteit Computerwetenschappen van de Universiteit van Toronto presenteert in samenwerking met het Vector Instituut en het Schwartz Reisman Instituut voor Technologie en Samenleving met trots de Gesprekken in Computing met professor Bruce Schneier. Hacking AI Abstract: Mensen hacken AI-systemen. Mensen hacken met AI-systemen. Maar ook, AIs hacken menselijke systemen. Ze vinden en exploiteren kwetsbaarheden in computercode, en ze zullen binnenkort hetzelfde doen met allerlei andere codes. Bijvoorbeeld: de belastingcode kan worden gehackt. Kwetsbaarheden worden loopholes genoemd, exploits worden belastingontwijkingsstrategieën genoemd, en black hats worden accountants genoemd. Evenzo kunnen financiële markten worden gehackt. Dat kan met elk systeem van regels of wetten, inclusief de democratie zelf. AIs zullen deze systemen hacken op onze verzoek, en ze zullen dit ook op een aangeboren, organische manier doen - en mogelijk op manieren die we niet onmiddellijk zien. We moeten een wereld overwegen waarin steeds geavanceerdere hacks van onze sociale, economische en politieke systemen worden ontdekt met computersnelheden, en vervolgens worden geëxploiteerd op computer schaal en reikwijdte. Op dit moment werken onze systemen voor het patchen van deze systemen op een menselijke snelheid, wat niet goed genoeg zal zijn. Bio: Bruce Schneier is een internationaal gerenommeerd beveiligingstechnoloog, die door The Economist een “veiligheidsguru” wordt genoemd. Hij is de auteur van meer dan een dozijn boeken - waaronder zijn nieuwste, Rewiring Democracy - evenals honderden artikelen en essays, en nog veel meer academische papers. Zijn invloedrijke nieuwsbrief Crypto-Gram en zijn blog Schneier on Security worden door meer dan 250.000 mensen gelezen. Hij heeft getuigenis afgelegd voor het Congres, is een frequente gast op televisie en radio, heeft gediend in verschillende technische commissies van de overheid en wordt regelmatig in de pers geciteerd.