Sampura Research - Talk+Social

Sampura Research: Alinhamento em Escalada utilizando Humanos A Sampura Research é uma organização sem fins lucrativos com sede em Londres, fundada por ex-integrantes do Google DeepMind, que está construindo a Complementaridade Humano-IA para o alinhamento da IA. À medida que os sistemas de IA se tornam mais capazes, os juízes que usamos para treiná-los, avaliá-los e monitorá-los ficam cada vez mais aquém. A maior parte do campo responde substituindo humanos por juízes LLM; nós acreditamos que humanos e IAs têm forças complementares, e que a supervisão humana é uma camada de defesa não correlacionada que juízes apenas de IA não podem fornecer. Nesta palestra, compartilharemos como estamos construindo juízes melhores: uma tabela de classificação de mais de 50 conjuntos de dados relevantes para alinhamento e métodos que roteiam, decompõem e assistem humanos e IAs para melhorar isso. Apoyados por uma concessão de $11M da Coefficient Giving, somos uma pequena equipe presencial contratando membros técnicos fundadores, buscando resolver o alinhamento em vez de apenas pausar a IA. Venha e diga olá! Programa (co-anfitrião da Iniciativa de Segurança de IA Carnegie)13:00 – Palestra (30 min)13:30 – Perguntas e Respostas (20 min)13:50 – Conversa informal (10++ min)Localização: Sala GHC 6115, Gates Center for Computer Science, Carnegie Mellon UniversityOu, junte-se virtualmente: Link de Encontro Quer se encontrar separadamente?Por favor, adicione suas informações neste Google Sheet, ou envie um e-mail para [email protected]! Candidatar-se: Aplicação para Membro Fundador da Equipe TécnicaJunte-se à nossa lista de correspondência: Lista de CorrespondênciaWebsite: sampura.org