Problem Zgodności: Uczenie Maszynowe i Wartości Ludzkie

Uwaga: Nasz klub książki wymaga, aby uczestnicy przeczytali przypisane lektury przed spotkaniem. Zapraszamy na naszą internetową serię dyskusji klubowych poświęconą książce, „Problem Zgodności: Uczenie Maszynowe i Wartości Ludzkie” autorstwa Briana Christiana. Przypisana lektura na ten tydzień: Rozdziały 7 i 8. Proszę pamiętać: Ukończenie przypisanej lektury jest warunkiem uczestnictwa. Jeśli nie masz możliwości zapoznać się z lekturą, zapraszamy na kolejne spotkanie. O czym jest ta książka? Dzisiejsze systemy “uczenia maszynowego”, trenowane na danych, są tak skuteczne, że zaprosiliśmy je, aby widziały i słyszały za nas ― i podejmowały decyzje w naszym imieniu. Ale dzwony alarmowe zaczynają dzwonić. Ostatnie lata przyniosły wybuch obaw, gdy dziedzina uczenia maszynowego się rozwija. Gdy systemy, które próbujemy nauczyć, ostatecznie nie robią tego, czego chcemy lub czego się spodziewamy, pojawiają się ryzyka etyczne i potencjalnie egzystencjalne. Badacze nazywają to problemem zgodności. Systemy przeszukują CV, dopóki po latach nie odkryjemy, że mają wrodzone uprzedzenia płciowe. Algorytmy decydują o kaucji i warunkowym zwolnieniu ― i wydają się oceniać czarnoskórych i białych oskarżonych różnie. Nie możemy już zakładać, że nasza aplikacja o kredyt hipoteczny, czy nawet nasze testy medyczne, będą widziane przez ludzkie oczy. A gdy autonomiczne pojazdy dzielą nasze ulice, coraz bardziej oddajemy nasze życie w ich ręce. Modele matematyczne i obliczeniowe napędzające te zmiany mają różny stopień skomplikowania, od czegoś, co mieści się w arkuszu kalkulacyjnym, do skomplikowanego systemu, który można by wiarygodnie nazwać „sztuczną inteligencją.” Nieustannie zastępują zarówno ludzką ocenę, jak i jawnie zaprogramowane oprogramowanie. W fascynującym opowiadaniu popularnego autora Briana Christiana, spotykamy “pierwszych ratowników” problemu zgodności i poznajemy ich ambitny plan, aby rozwiązać go, zanim nasze ręce całkowicie odejdą od kierownicy. W mistrzowskim połączeniu historii i relacji z terenu, Christian analizuje eksplozję wzrostu w dziedzinie uczenia maszynowego i bada jego obecny, rozległy front. Czytelnicy stają przed dyscypliną, która odnajduje się w ekscytujących, a czasami przerażających postępach. To, czy oni ― i my ― odniesiemy sukces czy porażkę w rozwiązaniu problemu zgodności, będzie definiującą historią ludzką. O autorze Christian posiada stopnie naukowe z zakresu informatyki, filozofii i poezji na Uniwersytecie Brown i Uniwersytecie Waszyngtońskim. Jako wizyjny naukowiec na Uniwersytecie Kalifornijskim w Berkeley mieszka w San Francisco. Pisma Christiana ukazały się w The New Yorker, The Atlantic, Wired i The Wall Street Journal, a także w czasopismach recenzowanych, takich jak Cognitive Science. Był gościem w The Daily Show i Radiolab oraz wygłaszał wykłady w Google, Facebooku, Microsoft, Santa Fe Institute i London School of Economics. Jego prace zdobyły liczne nagrody, w tym publikację w Best American Science & Nature Writing, i zostały przetłumaczone na dziewiętnaście języków. Jak działa ten klub książki. Nasza dyskusja książkowa będzie rozłożona na kilka kolejnych tygodni, z dwugodzinnymi spotkaniami w każdy wtorek wieczorem. Daje to nam czas na eksplorację lektur z głębokością i starannością, na jaką zasługują. Prosimy o przyniesienie własnych prowokujących myśli i spostrzeżeń z lektury, aby podzielić się nimi z grupą. Lubimy żywe dyskusje, które kwestionują nasze własne pomysły i te autora, a także pozwalają nam uczyć się od siebie nawzajem - przy okazji ciesząc się towarzystwem! Wszystko, o co prosimy, to aby każdy był traktowany jak równorzędny, zarówno z szacunkiem, jak i w przybliżonym czasie na wypowiedź. Czuj się swobodnie, aby zamieszczać (w komentarzach poniżej) wszelkie dodatkowe zasoby, które znajdziesz - w tym te, które kwestionują autora. Mamy nadzieję, że zobaczymy Cię na naszych wtorkowych spotkaniach!