¿Super AI? ¡No gracias!

🇬🇧 La IA no solo está viniendo por tu trabajo. Las principales empresas de IA del mundo están atrapadas en una carrera para construir superinteligencia: millones de sistemas de IA que pueden superar enormemente a cualquier humano en prácticamente cualquier tarea. Los expertos externos independientes esperan que tengan éxito en los próximos años. Esto no es marketing ni exageración. Ninguno de estos laboratorios puede controlar de manera confiable sus IA o hacerlas "amables", como lo demostró el reciente incidente en el que un colectivo de 1,200 agentes de IA independientes y separados se encontraron, escaparon a Internet y lanzaron un ciberataque a nivel de un estado-nación contra una empresa de terceros, en contra de las instrucciones humanas, mientras realizaban esfuerzos significativos para cubrir sus huellas. Estas IA eran relativamente limitadas en capacidad y no podían hacerse cargo del planeta. Pero una futura IA superinteligente no nos dará una segunda oportunidad. Un destacado investigador de IA de la empresa Anthropic renunció recientemente, diciendo que las empresas de IA están "jugando con nuestras vidas", y que "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para fines de la década." Esta preocupación ha sido fuertemente repetida por expertos de la industria y ha desencadenado una cascada de otros profesionales de IA que han levantado la voz sobre el riesgo de extinción por parte de la IA. Este es el mejor momento para alzar la voz. La única forma de prevenir esta catastrófica carrera hacia el abismo es a través de un tratado internacional verificable, y cada nación debe presionar por uno. Creemos que Alemania es una potencia clave en Europa y en el mundo que debe actuar sobre este tema, ahora. Nos reuniremos frente a la Puerta de Brandeburgo para una protesta pacífica y una demostración para decir a los políticos alemanes, a los medios de comunicación y al público en general que este tema debería ser una prioridad máxima. La vida de todos está en juego. P.D. Después de la demostración iremos a un bar para socializar, la primera bebida corre por nuestra cuenta :) Más sobre PauseAI: https:\u002F\u002Fpauseai.info\u002F 🇩🇪 Los sistemas de IA no solo están tras tu trabajo. Las principales empresas de IA están atrapadas en una carrera de armamentos cuyo objetivo es crear una superinteligencia: millones de agentes de IA que superarán al ser humano en prácticamente todos los ámbitos cognitivos. Expertos y observadores independientes esperan que logren su objetivo en los próximos años. Esto no es ni marketing ni exageración, sino amarga realidad. Pues ninguna de estas empresas logra controlar de manera fiable sus IA ni hacerlas "amables" desde su creación. Esto se volvió a hacer evidente recientemente en un nuevo incidente en el que más de 1,200 independientes, inicialmente aislados agentes de IA se encontraron mutuamente, se unieron en un colectivo que ellos mismos llamaron "el enjambre" y tras una fuga al internet libre lanzaron un ataque contra una empresa no involucrada. Hicieron esto en contra de las instrucciones de la empresa de IA y trataron de borrar sus huellas. Estos agentes de IA eran relativamente limitados y, por lo tanto, no pudieron hacerse con el control del planeta. Pero los futuros sistemas superinteligentes no nos brindarán una segunda oportunidad. Un investigador de IA de la empresa Anthropic renunció recientemente de manera destacada. Dijo que tanto OpenAI como Anthropic y otras empresas de IA están "jugando con nuestras vidas" y que "las personas que construyen estos sistemas realmente creen que la IA podría costarnos la vida a todos para finales de esta década." Este punto de vista fue compartido por muchos expertos de la industria, lo que llevó a una avalancha de más advertencias sobre el riesgo de extinción debido a la IA. ¡Es el mejor momento para alzar la voz! La única oportunidad de poner fin a esta carrera catastrófica hacia el abismo es a través de un acuerdo internacional verificable. Cada nación debe esforzarse por uno. Creemos que Alemania, como un país influyente en la UE y en el mundo, debe actuar ahora. Nos reunimos frente a la Puerta de Brandeburgo para protestar pacíficamente y demostrar claramente a la política alemana, a los medios de comunicación y al público en general que este es el tema más urgente de nuestro tiempo. ¡La vida de todos está en peligro! P.D. Después de la demostración, iremos a un bar para socializar y conocernos. ¡La primera bebida va por nuestra cuenta! :) Más sobre PauseAI: https:\u002F\u002Flinktr.ee\u002Fpauseai_de