Sampura Research - Hablar+Social

Sampura Research: Alineación de Ascenso Utilizando Humanos Sampura Research es una organización sin fines de lucro con sede en Londres, fundada por exalumnos de Google DeepMind, que está construyendo la Complementariedad Humano-AI para la alineación de IA. A medida que los sistemas de IA se vuelven más capaces, los jueces que utilizamos para entrenarlos, evaluarlos y monitorearlos quedan cada vez más cortos. La mayoría del campo responde reemplazando humanos con jueces de LLM; nosotros pensamos que los humanos y las IA tienen fortalezas complementarias y que la supervisión humana es una capa de defensa no correlacionada que los jueces solo de IA no pueden proporcionar. En esta charla compartiremos cómo estamos construyendo mejores jueces: una tabla de clasificación de más de 50 conjuntos de datos relevantes para la alineación, y métodos que enrutan, descomponen y asisten a través de humanos y IA para ascender en la misma. Respaldados por una subvención de $11M de Coefficient Giving, somos un pequeño equipo presencial que está contratando personal técnico fundador, buscando resolver la alineación en lugar de solo pausar la IA. ¡Ven y salúdame! Programa (coorganizado por la Iniciativa de Seguridad en IA de Carnegie)13:00 – Charla (30 min)13:30 – Preguntas y Respuestas (20 min)13:50 – Charla informal (10++ min)Ubicación: Sala GHC 6115, Centro Gates para Ciencias de la Computación, Universidad Carnegie MellonO, únete virtualmente: Enlace de Reunión ¿Quieres reunirte por separado?Por favor, agrega tu información en esta Hoja de Google, o envía un correo electrónico a [email protected]! Aplicar: Solicitud de Miembro Fundador del Personal TécnicoÚnete a nuestra lista de correo: Lista de CorreoSitio web: sampura.org