
Grupa czytelnicza (+🧋): Senior SWE-Bench
Opis
Dołącz do grupy czytelniczej Snorkel AI na prezentacji dotyczącej Senior SWE-Bench, otwartego benchmarku oceniającego agenty kodujące w rzeczywistych zadaniach.
Najważniejsze punkty
Prezentacja prowadzonego badacza Henry'ego Ehrenberga na temat Senior SWE-Bench. Dyskusja na temat agentów kodujących ocenianych jako inżynierowie seniorzy. Wprowadzenie do agentów walidacyjnych dla wiarygodnego oceniania. Zadania pochowane z rzeczywistych PR-ów z istotnym czasem wykonania. Oceny sędziów smakowych dotyczące minimalizmu kodu i rzemiosła. Analiza wydajności najlepszych modeli w zadaniach na poziomie seniora. Benchmark obejmuje 100 zadań z 12 rzeczywistych repozytoriów. Otwarty i kompatybilny z Harbor benchmark. Współpraca z Princeton i UW–Madison. Podawane są napoje boba i inne przekąski.
Lokalizacja wydarzenia
Daj swojej sieci znać, że idziesz
Udostępnij to wydarzenie, aby rozpocząć rozmowy, zaprosić kolegów i nawiązać kontakty przed jego rozpoczęciem.
