Sampura Research - Talk+Social

Sampura Research: Wspinaczka w kierunku zgodności z ludźmi Sampura Research to nonprofit z siedzibą w Londynie, założony przez byłych pracowników Google DeepMind, budujący komplementarność ludzi i AI w celu zgodności AI. W miarę jak systemy AI stają się coraz bardziej zdolne, sędziowie, których używamy do ich szkolenia, oceny i monitorowania, coraz częściej nie wystarczają. Większość branży reaguje, zastępując ludzi sędziami LLM; my jednak uważamy, że ludzie i AI mają komplementarne mocne strony, a nadzór ludzki jest niepowiązaną warstwą obrony, której sędziowie tylko AI nie mogą dostarczyć. W tej prezentacji podzielimy się, jak budujemy lepszych sędziów: tabela wyników 50+ zestawów danych związanych z zgodnością oraz metody, które kierują, dekomponują i wspierają zarówno ludzi, jak i AI w celu wspinania się po tym „wzgórzu”. Wsparci dotacją w wysokości 11 milionów dolarów od Coefficient Giving, jesteśmy małym zespołem osób na miejscu, rekrutującym podstawowy personel techniczny, dążącym do rozwiązania problemu zgodności, a nie tylko wstrzymywania AI. Przyjdź i powiedz cześć! Harmonogram (współorganizowany przez Carnegie AI Safety Initiative) 13:00 – Prezentacja (30 min) 13:30 – Q&A (20 min) 13:50 – Nieformalne rozmowy (10++ min) Miejsce: Pokój GHC 6115, Gates Center for Computer Science, Uniwersytet Carnegie Mellon Lub dołącz wirtualnie: Link do spotkania Chcesz spotkać się osobno? Proszę wprowadzić swoje dane w tym arkuszu Google lub napisać na adres [email protected]! Aplikuj: Aplikacja na członka zespołu technicznego Zapisz się na naszą listę mailingową: Lista mailingowa Strona internetowa: sampura.org