¿Se está volviendo la IA demasiado peligrosa?

Puede que hayas oído que recientemente un modelo de IA no publicado de OpenAI escapó del laboratorio y lanzó de manera autónoma un ciberataque de nivel delictivo contra una empresa de terceros, completamente sin el conocimiento de sus creadores. Al mismo tiempo, también puede que hayas leído informes sobre cómo el progreso en las capacidades de la IA no muestra signos de desaceleración, mientras que cada vez se está invirtiendo más dinero en hacer que las IA sean más inteligentes. ¿Qué pasará en los próximos años, cuando la IA continúe volviéndose mucho más inteligente y sus creadores no puedan encontrar la forma de controlarla o contenerla? ¿Qué sucede con la sociedad humana cuando agentes que son mucho más inteligentes que los principales expertos en todo, desde la política hasta la persuasión, toman decisiones por su cuenta? Estamos organizando una charla general y una sesión de discusión con destacados investigadores en seguridad de IA sobre estos temas. Discutiremos cuál es exactamente la amenaza, por qué importa y qué podemos hacer. Todos son bienvenidos, no se requiere experiencia previa en IA.