Pesquisa Sampura - Talk+Social

Pesquisa Sampura: Alinhamento através de Escalada Humana A Pesquisa Sampura é uma organização sem fins lucrativos baseada em Londres, fundada por ex-alunos do Google DeepMind, que está construindo a Complementaridade Humano-AI para o alinhamento da IA. À medida que os sistemas de IA se tornam mais capazes, os juízes que usamos para treiná-los, avaliá-los e monitorá-los tornam-se cada vez mais inadequados. A maior parte da área responde substituindo humanos por juízes LLM; nós acreditamos que humanos e IAs possuem forças complementares e que a supervisão humana é uma camada de defesa não correlacionada que juízes apenas da IA não podem fornecer. Nesta fala, compartilharemos como estamos construindo juízes melhores: um ranking de 50+ conjuntos de dados relevantes para alinhamento e métodos que roteiam, decompõem e assistem entre humanos e IAs para escalá-los. Agenda (você pode participar de qualquer parte) 17:00 – Palestra (20 min) 17:20 – Q&A (20 min) 17:40 – Bate-papo informal com a equipe (20 min) Com o apoio de uma concessão de $11M da Coefficient Giving, somos uma pequena equipe presencial contratando pessoal técnico fundador, procurando resolver alinhamento em vez de pausar a IA. Venha e diga olá! Inscreva-se: Aplicação para Membro Fundador da Equipe Técnica Website: https://sampura.org/