
Groupe de Lecture (+🧋): Senior SWE-Bench
Description
Rejoignez le Groupe de Lecture de Snorkel AI pour une présentation sur Senior SWE-Bench, un benchmark open-source évaluant les agents de codage sur des tâches du monde réel.
Points forts
Présentation par le chercheur principal Henry Ehrenberg sur Senior SWE-Bench. Discussion sur les agents de codage évalués en tant qu'ingénieurs seniors. Introduction aux agents de validation pour une notation fiable. Tâches issues de véritables pull requests avec une enquête de temps d'exécution significative. Scores des juges sur la minimalité du code et le savoir-faire. Analyse des performances des meilleurs modèles sur des tâches de niveau senior. Le benchmark comprend 100 tâches provenant de 12 véritables dépôts. Benchmark open-source et compatible Harbor. Collaboration avec Princeton et UW–Madison. Thé au boba et autres rafraîchissements fournis.
Lieu de l`événement
Faites savoir à votre réseau que vous y allez
Partagez cet événement pour engager des conversations, inviter des collègues et vous connecter avant qu`il commence.
