Wykłady badawcze: Wprowadzenie do dostosowania superinteligencji

Description

Większość badań nad bezpieczeństwem AI dzisiaj, takich jak prace Anthropic, OpenAI i innych, które zazwyczaj omawiamy w naszej grupie czytelniczej, koncentruje się na metodach empirycznych stosowanych na obecnej granicy, mając nadzieję, że uzyskane zrozumienie odnosi się również do przyszłych systemów. Ale dostosowanie prawdopodobnie musi działać od pierwszego podejścia w przypadku systemów, które mogą być jakościowo różne. Alternatywne podejście zaczyna się od właściwości, które chcemy, aby przyszłe systemy miały, i dzieli je na fundamentalne pytania o agencję, rozumowanie, samomodyfikację lub optymalizację. W naszych następnych wykładach badawczych Ouro, badacz bezpieczeństwa AI pracujący z Orthogonal i współorganizujący seminarium teoretyczne AFFINE na temat dostosowania, omówi właściwości superinteligencji, zignorowane perspektywy dostosowania, oceni obecne podejścia i wprowadzi modele mentalne do rozumowania o dostosowaniu na granicy możliwości. Kiedy: piątek, 24 lipca, 16.00-18.00 Gdzie: Lumi Otaniemi Hub (4. piętro), Aalto Spotykamy się przed budynkiem i wspólnie udajemy się do sali prezentacyjnej o 16.00. W razie potrzeby, skontaktuj się w grupie telegramowej: https://t.me/+4WUz4gBTIok3NGQ8