Recherche Sampura - Talk+Social

Recherche Sampura : Alignement par montée en côte utilisant des humains Recherche Sampura est une organisation à but non lucratif basée à Londres, fondée par des anciens de Google DeepMind, construisant la complémentarité Humain-AI pour l'alignement de l'AI. À mesure que les systèmes d'AI deviennent plus capables, les juges que nous utilisons pour les former, les évaluer et les surveiller deviennent de moins en moins efficaces. La plupart du domaine répond en remplaçant les humains par des juges LLM ; nous pensons que les humains et les AIs ont des forces complémentaires, et que la supervision humaine est un niveau de défense non corrélé que les juges uniquement AI ne peuvent pas fournir. Dans cette présentation, nous partagerons comment nous construisons de meilleurs juges : un classement de 50+ ensembles de données pertinents pour l'alignement, et des méthodes qui font le lien, décomposent, et assistent à travers humains et AIs pour y parvenir. Soutenue par une subvention de 11 millions de dollars de Coefficient Giving, nous sommes une petite équipe en personne à la recherche de membres techniques fondateurs, cherchant à résoudre l'alignement au lieu de simplement mettre l'AI en pause. Venez nous rencontrer et dire bonjour ! Programme (co-organisé par l'Initiative de Sécurité AI de Carnegie) 13h00 – Présentation (30 min) 13h30 – Questions & Réponses (20 min) 13h50 – Discussion informelle (10++ min) Lieu : Salle GHC 6115, Gates Center for Computer Science, Carnegie Mellon University Ou, rejoignez-nous virtuellement : Lien de rencontre Envie de se rencontrer séparément ? Veuillez ajouter vos informations dans cette Google Sheet, ou envoyer un email à [email protected] ! Postulez : Candidature pour Membre Fondateur du Personnel Technique Rejoignez notre liste de diffusion : Liste de diffusion Site Web : sampura.org