Sampura Research - Talk+Social

Sampura Research : Alignement par escalade utilisant des humains Sampura Research est une organisation à but non lucratif basée à Londres, fondée par des anciens de Google DeepMind, qui construit la complémentarité Humain-AI pour l'alignement de l'IA. Alors que les systèmes d'IA deviennent de plus en plus capables, les juges que nous utilisons pour les former, les évaluer et les surveiller deviennent de moins en moins efficaces. La plupart du domaine réagit en remplaçant les humains par des juges LLM ; nous pensons que les humains et les IA ont des forces complémentaires, et que la supervision humaine est une couche de défense non corrélée que les juges uniquement IA ne peuvent pas fournir. Dans cette présentation, nous partagerons comment nous construisons de meilleurs juges : un tableau de classement de plus de 50 ensembles de données pertinents pour l'alignement, et des méthodes qui dirigent, décomposent et assistent les humains et les IA pour gravir les étapes. Programme (vous pouvez rejoindre à tout moment)17h00 – Présentation (20 min)17h20 – Questions & Réponses (20 min)17h40 – Discussion informelle avec l'équipe (20 min) Soutenue par une subvention de 11 millions de dollars de Coefficient Giving, nous sommes une petite équipe en personne à la recherche de personnel technique fondateur, cherchant à résoudre l'alignement au lieu de mettre l'IA en pause. Venez nous voir et dites bonjour ! Postuler : Candidature membre fondateur du personnel techniqueSite web : https://sampura.org/