Grupo de Discussão - semana 3 - Por que o alinhamento é difícil

Parte três de uma série de discussões sobre segurança em IA de quatro semanas: Semana 1 | Por que a segurança em IA é importante · Semana 2 | Como a falha pode parecer em grande escala · Semana 3 | Por que o alinhamento é difícil · Semana 4 | O que está sendo feito a respeito? Cada sessão é independente, então participe de uma ou de todas. Para quem é: Qualquer pessoa curiosa sobre segurança e governança em IA, seja você novo no tema, um cético saudável ou já bem envolvido. Nenhum conhecimento técnico necessário, e não é preciso ter participado das semanas anteriores. Você não precisa ter respostas, apenas curiosidade. Currículo do grupo de discussão:https:\u002F\u002Fdocs.google.com\u002Fdocument\u002Fd\u002F160PpLjFN9SaZja0njeKIQHnD-M1Uy4718dNRDyhaucs\u002Fedit?usp=sharing Podemos treinar sistemas de IA para serem muito capazes. Garantir que eles façam o que realmente pretendemos, que é o que as pessoas chamam de alinhamento, é muito mais difícil. Sistemas de IA encontram brechas nos objetivos que lhe damos. Comportamentos enganosos podem sobreviver ao treinamento destinado a removê-los. Testes não nos dizem de forma confiável como um sistema se comportará no mundo real. E as instituições lutam para acompanhar o ritmo. Baseando-se no trabalho do DeepMind em jogos de especificação, no artigo "Agents Adormecidos" da Anthropic (no qual os pesquisadores treinaram deliberadamente comportamentos enganosos em modelos para ver se o treinamento de segurança poderia removê-los) e no Relatório Internacional de Segurança em IA 2026, vamos explorar de onde vem a dificuldade. Perguntas que exploraremos Formato (90 min): Discussão aberta em pequenos grupos e plenária. Sem apresentações e sem perguntas erradas. Leituras:★ = obrigatório (~2 horas). O resto é opcional. Ao participar, você concorda em ser filmado ou fotografado, o que pode ser usado para conteúdo de redes sociais, site e newsletter. Se você deseja participar, mas não quer ser fotografado, durante o evento, informe a um membro da nossa equipe para que possamos acomodar isso.