Sampura Research - Talk+Social

Sampura Research: Wspinaczka w kierunku Aligmentu z udziałem ludzi Sampura Research to londyńska organizacja non-profit, założona przez byłych pracowników Google DeepMind, budująca komplementarność między ludźmi a AI dla aligmentu AI. W miarę jak systemy AI stają się coraz bardziej zdolne, sędziowie, których używamy do ich szkolenia, oceny i monitorowania, stają się coraz mniej skuteczni. Większość branży reaguje, zastępując ludzi sędziami LLM; my uważamy, że ludzie i AI mają komplementarne mocne strony, a nadzór ludzki jest niezależną warstwą obrony, której sędziowie wyłącznie AI nie mogą zapewnić. W tym wykładzie podzielimy się tym, jak budujemy lepszych sędziów: rankingiem 50+ zbiorów danych związanych z aligmentem oraz metodami, które kierują, dekomponują i wspierają zarówno ludzi, jak i AI w jego poprawie. Harmonogram (możesz dołączyć do dowolnej części)17:00 – Wykład (20 min)17:20 – Pytania i odpowiedzi (20 min)17:40 – Nieformalna rozmowa z zespołem (20 min) Wsparcie: dotacja w wysokości 11 milionów dolarów od Coefficient Giving, jesteśmy małym zespołem na miejscu, zatrudniającym założycieli członków personelu technicznego, starającym się rozwiązać problem aligmentu zamiast wstrzymywać AI. Przyjdź i się przywitaj! Aplikuj: Aplikacja dla założyciela członka personelu technicznegoStrona internetowa: https://sampura.org/