Sampura Research - Talk+Social

Sampura Research: Alineación en Escalada utilizando Humanos Sampura Research es una organización sin fines de lucro con sede en Londres, fundada por exalumnos de Google DeepMind, que construye Complementariedad Humano-AI para la alineación de la IA. A medida que los sistemas de IA se vuelven más capaces, los jueces que utilizamos para entrenarlos, evaluarlos y monitorearlos cada vez son menos efectivos. La mayoría del campo responde reemplazando humanos con jueces LLM; nosotros creemos que los humanos y las IA tienen fortalezas complementarias, y que la supervisión humana es una capa de defensa no correlacionada que los jueces solo de IA no pueden proporcionar. En esta charla compartiremos cómo estamos construyendo mejores jueces: una tabla de clasificación de más de 50 conjuntos de datos relevantes para la alineación, y métodos que dirigen, descomponen y asisten a través de humanos y IA para escalarlo. Horario (puedes unirte a cualquier parte) 17:00 – Charla (20 min) 17:20 – Preguntas y Respuestas (20 min) 17:40 – Charla informal con el equipo (20 min) Con un apoyo de $11M de Coefficient Giving, somos un pequeño equipo presencial contratando personal técnico fundador, buscando resolver la alineación en lugar de pausar la IA. ¡Ven y saluda! Aplica: Solicitud para Miembro Fundador del Personal Técnico Sitio web: https://sampura.org/