Problem Zgodności: Uczenie Maszynowe i Wartości Ludzkie

Uwaga: Nasz klub książki wymaga, aby uczestnicy zapoznali się z przypisanymi lekturami przed spotkaniem. Zapraszamy na naszą dyskusję online w ramach klubu książki, „Problem Zgodności: Uczenie Maszynowe i Wartości Ludzkie” autorstwa Briana Christiana. Przypisana lektura na ten tydzień: Rozdziały 5 i 6. Proszę zauważyć: Ukończenie przypisanej lektury jest warunkiem wstępnym uczestnictwa. Jeśli nie masz możliwości przeczytać, zapraszamy innym razem. O czym jest ta książka? Dzisiejsze systemy „uczenia maszynowego”, szkolone na danych, są tak skuteczne, że zaprosiliśmy je, aby widziały i słyszały za nas – i podejmowały decyzje w naszym imieniu. Jednak dzwonki alarmowe zabrzmiały. Ostatnie lata przyniosły falę obaw, jako że dziedzina uczenia maszynowego rozwija się. Kiedy systemy, które próbujemy nauczyć, ostatecznie nie robią tego, czego chcemy lub czego oczekujemy, pojawiają się ryzyka etyczne i potencjalnie egzystencjalne. Naukowcy nazywają to problemem zgodności. Systemy przeszukują CV, aż po latach odkrywamy, że mają wrodzone uprzedzenia płciowe. Algorytmy decydują o kaucji i warunkowym zwolnieniu – i wydaje się, że oceniają oskarżonych czarnoskórych i białych inaczej. Nie możemy już zakładać, że nasza aplikacja o kredyt hipoteczny czy nawet nasze testy medyczne będą oglądane przez ludzkie oczy. A gdy pojazdy autonomiczne zjeżdżają na nasze ulice, coraz bardziej powierzamy swoje życie w ich ręce. Matematyczne i obliczeniowe modele napędzające te zmiany mają różny stopień skomplikowania, od czegoś, co można umieścić w arkuszu kalkulacyjnym, po złożony system, który można uznać za „sztuczną inteligencję”. Stopniowo zastępują one zarówno ludzką ocenę, jak i wyraźnie zaprogramowane oprogramowanie. W porywającej relacji bestsellerowego autora Briana Christiana spotykamy „pierwszych ratowników” problemu zgodności i uczymy się o ich ambitnym planie rozwiązania go, zanim nasze ręce całkowicie opuszczą kierownicę. W mistrzowskim połączeniu historii i relacji z terenu, Christian ukazuje eksplozję rozwoju w dziedzinie uczenia maszynowego i bada jego aktualną, rozległą granicę. Czytelników czeka dziedzina, która odnajduje swoje miejsce wśród ekscytującego i czasami przerażającego postępu. To, czy oni – i my – odniosą sukces czy poniosą porażkę w rozwiązaniu problemu zgodności, będzie definicyjną ludzką historią. O autorze Christian posiada stopnie naukowe w dziedzinie informatyki, filozofii i poezji na Uniwersytecie Browna i Uniwersytecie Waszyngtońskim. Jest wykładowcą wizytującym na Uniwersytecie Kalifornijskim w Berkeley i mieszka w San Francisco. Pisma Christiana ukazały się w The New Yorker, The Atlantic, Wired oraz The Wall Street Journal, a także w recenzowanych czasopismach, takich jak Cognitive Science. Był gościem programu The Daily Show i Radiolab oraz prowadził wykłady w Google, Facebooku, Microsoftcie, Instytucie Santa Fe i Londyńskiej Szkole Ekonomii. Jego prace zdobyły wiele nagród, w tym publikację w Best American Science & Nature Writing i zostały przetłumaczone na dziewiętnaście języków. Jak działa ten klub książki. Nasza dyskusja książkowa będzie rozłożona na kilka kolejnych tygodni, z dwugodzinnymi spotkaniami w każdy wtorek wieczorem. Daje to czas na dokładne zbadanie lektur z należytą głębią i starannością. Proszę przynieść własne pytania i spostrzeżenia, które zainspirują grupę. Lubimy żywe dyskusje, które kwestionują nasze własne pomysły i pomysły autora oraz pozwalają nam uczyć się od siebie nawzajem – ciesząc się jednocześnie towarzystwem! Wszystko, o co prosimy, to aby wszyscy byli traktowani jak współ-równi, zarówno w szacunku, jak i w przybliżonym czasie wypowiedzi. Zachęcamy do zamieszczania (w komentarzach poniżej) wszelkich dodatkowych zasobów, które znajdziesz – w tym takich, które kwestionują autora. Mamy nadzieję zobaczyć Cię na naszych wtorkowych spotkaniach!