Grupo de Leitura sobre Segurança de IA: CODA

Esta semana, discutiremos o artigo: "Aprendizagem Subliminar: Modelos de Linguagem Transmitem Traços Comportamentais por Meio de Sinais Ocultos nos Dados". Jantar e boba serão fornecidos para os primeiros 20 que confirmarem presença semanalmente (antes da manhã de sexta-feira!). Para evitar desperdício de comida, confirme presença apenas se você realmente for comparecer. Se você não tiver acesso ao CODA, por favor, chegue até às 16h55 no máximo. A Iniciativa de Segurança de IA do Georgia Tech é uma comunidade de pesquisadores técnicos e de políticas do Georgia Tech que visa reduzir os riscos da inteligência artificial avançada. Dessa forma, focamos em tópicos como: Nossos trabalhos recentes incluem o AuditBench: Avaliação de Técnicas de Auditoria de Alinhamento em Modelos com Comportamentos Ocultos e uma Avaliação de Segurança Independente do Kimi K2.5‍. Uma visão geral detalhada de nossa pesquisa pode ser encontrada aqui. O objetivo deste grupo de leitura é apresentar o talento de pesquisa técnica do GT aos problemas acima, abordagens/soluções atuais, e gerar e executar pesquisas impactantes. Detalhes das reuniões passadas aqui.