Problem Zgodności: Uczenie Maszynowe i Wartości Ludzkie

Uwaga: Nasz klub książki wymaga, aby uczestnicy przeczytali przypisane lektury przed spotkaniem. Zapraszamy na nasze internetowe dyskusje w klubie książki dotyczące „Problemu Zgodności: Uczenie Maszynowe i Wartości Ludzkie” autorstwa Briana Christiana. Przypisana lektura na ten tydzień: Prolog, Wprowadzenie oraz Rozdziały 1 i 2. Proszę zwrócić uwagę: Zakończenie przypisanej lektury jest warunkiem wstępnym uczestnictwa. Jeśli nie masz możliwości przeczytania lektury, zapraszamy cię innym razem. O czym jest ta książka? Dzisiejsze systemy „uczenia maszynowego”, szkolone na podstawie danych, są tak skuteczne, że zaprosiliśmy je, aby widziały i słyszały w naszym imieniu - i podejmowały decyzje za nas. Ale dzwony alarmowe się rozbrzmiewają. Ostatnie lata przyniosły erupcję obaw, gdy pole uczenia maszynowego się rozwija. Kiedy systemy, które próbujemy nauczyć, ostatecznie nie robią tego, czego chcemy lub czego się spodziewamy, pojawiają się ryzyko etyczne i potencjalnie egzystencjalne. Naukowcy nazywają to problemem zgodności. Systemy przeszukują życiorysy, aż po lata odkrywamy, że mają wrodzone uprzedzenia płciowe. Algorytmy decydują o kaucji i zwolnieniu warunkowym - i wydaje się, że oceniają czarnoskórych i białych oskarżonych inaczej. Nie możemy już zakładać, że nasza aplikacja kredytowa, czy nawet testy medyczne, będą widziane przez ludzkie oczy. A gdy autonomiczne pojazdy dzielą nasze ulice, coraz częściej oddajemy nasze życie w ich ręce. Matematyczne i obliczeniowe modele napędzające te zmiany mają różny stopień skomplikowania - od czegoś, co może zmieścić się w arkuszu kalkulacyjnym, do złożonego systemu, który można słusznie nazwać „sztuczną inteligencją”. Stopniowo zastępują one zarówno ludzką ocenę, jak i programowane oprogramowanie. W fascynującym opisie autora bestsellerów Briana Christiana, poznajemy „pierwszych ratowników” problemu zgodności i dowiadujemy się o ich ambitnym planie rozwiązania go, zanim nasze ręce całkowicie zejdą z kierownicy. W mistrzowskim połączeniu historii i reporterskiej pracy w terenie, Christian śledzi eksplozję wzrostu w dziedzinie uczenia maszynowego i bada jego aktualną, rozległą granicę. Czytelnicy napotykają dziedzinę, która odnajduje siebie w ekscytującym, a czasami przerażającym postępie. To, czy oni - a my - odniesiemy sukces czy porażkę w rozwiązaniu problemu zgodności, będzie definiującą ludzką historią. O autorze Christian ma stopnie naukowe w dziedzinie informatyki, filozofii i poezji z Uniwersytetu Brown oraz Uniwersytetu Waszyngtońskiego. Jest wizytującym naukowcem na Uniwersytecie Kalifornijskim w Berkeley i mieszka w San Francisco. Pisanie Christiana ukazało się w The New Yorker, The Atlantic, Wired oraz The Wall Street Journal, a także w czasopismach recenzowanych, takich jak Cognitive Science. Był gościem w The Daily Show i Radiolab oraz wykładał w Google, Facebooku, Microsoft, Instytucie Santa Fe i Londyńskiej Szkole Ekonomicznej. Jego prace zdobyły wiele nagród, w tym publikację w Best American Science & Nature Writing, i zostały przetłumaczone na dziewiętnaście języków. Jak działa ten klub książki. Nasza dyskusja książkowa będzie rozłożona na kilka kolejnych tygodni, z dwugodzinnymi spotkaniami w każdy wtorek wieczorem. Daje nam to czas na dokładne zbadanie lektur z odpowiednią głębią i starannością. Prosimy, przynieś własne prowokujące myśli i spostrzeżenia z lektury, aby podzielić się nimi z grupą. Lubimy żywe dyskusje, które kwestionują nasze własne pomysły oraz pomysły autora i pozwalają nam uczyć się od siebie nawzajem - przy wspaniałej atmosferze! Wszystko, o co prosimy, to traktowanie wszystkich jako równych, zarówno w szacunku, jak i przybliżonym czasie mówienia. Zachęcamy do zamieszczania (w komentarzach poniżej) wszelkich dodatkowych zasobów, które znajdziesz - w tym tych, które kwestionują autora. Mamy nadzieję zobaczyć cię na naszych wtorkowych spotkaniach!