Ślady Rozumowania przez Together Fund

Kontynuując naszą serię salonów badawczych. Ślady Rozumowania to wieczór Together, w którym zgłębiamy pojedynczy pomysł, w małym gronie, z ludźmi, którzy rzeczywiście go budują i badają.DLACZEGO ALIGNMENT, DLACZEGO TERAZ?Alignment to problem sprawienia, aby systemy AI naprawdę robiły to, co zamierzamy - nie tylko to, o co prosimy. W miarę jak modele stają się coraz bardziej zdolne, luka między "zdolnym" a "dopasowanym" staje się najbardziej znaczącym otwartym problemem w tej dziedzinie.Dziedzina skupiła się wokół czterech celów - Odporności, Interpretowalności, Kontrolowalności, Etyczności (RICE) - i podzieliła się na dwa główne fronty: forward alignment (szkolenie systemów, aby były dopasowane - RLHF, modelowanie preferencji, skalowalna kontrola dla zadań, którymi ludzie nie mogą łatwo nadzorować) oraz backward alignment (udowadnianie, że rzeczywiście są - oceny bezpieczeństwa, interpretowalność, zarządzanie).Prawdziwe pytanie jest teraz na stole: gdy modele zaczynają wykonywać zadania, które nie mogą być skutecznie nadzorowane, czy alignment dostosowuje się do zdolności - czy cicho pozostaje w tyle?KTO BĘDZIE W POMIESZCZENIUBadacze pracujący nad alignment, interpretowalnością i ocenamiZałożyciele budujący z frontowymi modelami, którzy żyją z tymi kompromisami na co dzieńNajostrzejsi inżynierowie myślący o nadzorze, red-teamingu i bezpieczeństwieKtokolwiek szczerze zainteresowany tym, jak utrzymać zdolne systemy skierowane we właściwą stronęLink do odpowiedniego wstępu - https://arxiv.org/abs/2310.19852JAK PRZEBIEGA WIECZÓROtwieramy temat, a następnie osoba, która jest najgłębiej zaangażowana, przedstawia sytuację - co jest prawdziwe, czego się dowiadują, otwarte pytania. Od tego momentu otwiera się dyskusja: wchodzisz, kwestionujesz, rozwijasz.To dyskusja, a nie wykład. Luz z zasady; najlepsza robota dzieje się, gdy pomieszczenie myśli razem, a nie gdy ktoś wykłada z podestu.Mamy ograniczoną liczbę miejsc, aby zapewnić bogatą konwersację, więc prosimy o wcześniejsze rezerwacje!