Grupo de Discusión - semana 3 - Por qué la alineación es difícil

Tercera parte de una serie de discusiones sobre la seguridad de la IA de cuatro semanas: Semana 1 | Por qué la seguridad de la IA importa · Semana 2 | Cómo podría ser un fallo a gran escala · Semana 3 | Por qué la alineación es difícil · Semana 4 | ¿Qué se está haciendo al respecto? Cada sesión es independiente, así que únete a una o a todas. Para quién es: Cualquiera que tenga curiosidad sobre la seguridad y gobernanza de la IA, ya sea que seas nuevo en el tema, un escéptico sano o ya estés profundamente involucrado. No se necesita experiencia técnica, ni es necesario haber asistido a las semanas anteriores. No necesitas tener respuestas, solo curiosidad. Currículo del grupo de discusión:https:\/\/docs.google.com\/document\/d\/160PpLjFN9SaZja0njeKIQHnD-M1Uy4718dNRDyhaucs\/edit?usp=sharing Podemos entrenar sistemas de IA para que sean muy capaces. Asegurarnos de que hagan lo que realmente pretendemos, que es lo que la gente llama alineación, es mucho más difícil. Los sistemas de IA encuentran vacíos en los objetivos que les damos. El comportamiento engañoso puede sobrevivir al entrenamiento destinado a eliminarlo. Las pruebas no nos dicen de manera confiable cómo se comportará un sistema en el mundo real. Y las instituciones luchan por mantener el ritmo. Basándonos en el trabajo de DeepMind sobre juegos de especificación, el artículo "Agentes Durmientes" de Anthropic (en el que los investigadores entrenaron deliberadamente el comportamiento engañoso en modelos para ver si el entrenamiento de seguridad podía eliminarlo) y el Informe Internacional sobre Seguridad de la IA 2026, exploraremos de dónde proviene la dificultad. Preguntas que vamos a explorar Formato (90 min): Discusión abierta en grupos pequeños y en plenaria. Sin presentaciones y sin preguntas incorrectas. Lecturas:★ = obligatorias (~2 horas). El resto es opcional. Al asistir, aceptas ser filmado o fotografiado, lo que puede ser utilizado para contenido en redes sociales, sitios web y boletines informativos. Si deseas asistir pero no quieres ser fotografiado, infórmale a un miembro de nuestro personal durante el evento para que podamos acomodarte.