IA 2040: Plan A

Reunámonos y hablemos sobre IA 2040: Plan A, el nuevo escenario del Proyecto Futuros de IA (el equipo detrás de IA 2027). A diferencia de IA 2027, es una recomendación en lugar de una predicción: un acuerdo internacional en el cual EE. UU. y China acuerdan en 2029 evitar una carrera hacia la superinteligencia, toda la investigación en IA se vuelve públicamente transparente, las capacidades se desarrollan lentamente a través del rango humano, y el mundo se detiene en el nivel de expertos humanos antes de construir deliberadamente la superinteligencia en 2040, reforzada por esquemas de verificación y "destrucción mutua de computación asegurada" (los centros de datos de China se construyen en Canadá, de todos los lugares). Discutiremos si el plan es coherente, si es alcanzable, si es incluso deseable, y qué haríamos en su lugar.El escenario completo es extenso. Si no puedes leerlo todo (y hay mucho que leer), lee la narrativa principal hasta 2030 más el resumen y la introducción de Scott a continuación, y ve si al menos puedes captar la idea principal de IA 2040. He dividido la lectura principal en bloques de 45 minutos a 1 hora que puedes inscribirte y reclamar aquí. Si la hoja está llena, entonces comparte una sección con alguien.Inscripción para leerLecturasLecturas complementarias