Conversaciones en Computación: Bruce Schneier sobre Hacking de IA

El Departamento de Ciencias de la Computación de la Universidad de Toronto, en asociación con el Instituto Vector y el Instituto Schwartz Reisman para Tecnología y Sociedad, se enorgullece de presentar Conversación en Computación con el Profesor Bruce Schneier. Hacking de IA Resumen: Los humanos están hackeando sistemas de IA. Los humanos están hackeando con sistemas de IA. Pero, además, las IA están hackeando sistemas humanos. Están encontrando y explotando vulnerabilidades en el código informático, y pronto harán lo mismo con todo tipo de otros códigos. Por ejemplo: el código fiscal puede ser hackeado. Las vulnerabilidades se llaman lagunas, los exploits se llaman estrategias de evasión fiscal, y los hackers maliciosos se llaman contadores. De manera similar, los mercados financieros pueden ser hackeados. También cualquier sistema de reglas o leyes, incluida la democracia misma. Las IA hackearán estos sistemas a nuestra solicitud, y también lo harán de manera innata, orgánica, y posiblemente de formas que no vemos inmediatamente. Necesitamos considerar un mundo donde hacks cada vez más sofisticados de nuestros sistemas sociales, económicos y políticos sean descubiertos a velocidades informáticas, y luego explotados a escalas y alcances informáticos. En este momento, nuestros sistemas de parches para estos sistemas operan a un ritmo humano, lo cual no será suficiente. Biografía: Bruce Schneier es un tecnólogo de seguridad de renombre internacional, llamado “gurú de la seguridad” por The Economist. Es el autor de más de una docena de libros, incluido su último, Rewiring Democracy, así como cientos de artículos y ensayos, y muchos más trabajos académicos. Su influyente boletín Crypto-Gram y su blog Schneier on Security son leídos por más de 250,000 personas. Ha testificado ante el Congreso, es un invitado frecuente en televisión y radio, ha servido en varios comités técnicos del gobierno, y es citado regularmente en la prensa.