Das Ausrichtungsproblem: Maschinelles Lernen und menschliche Werte

Hinweis: Unser Buchclub verlangt von den Teilnehmern, dass sie die zugewiesenen Lesungen vor dem Treffen erledigen. Bitte schließen Sie sich uns für unsere Online-Buchclub-Diskussionsreihe über „Das Ausrichtungsproblem: Maschinelles Lernen und menschliche Werte“ von Brian Christian an. Zuweisung für diese Woche: Das Vorwort, die Einführung und die Kapitel 1 und 2. Bitte beachten Sie: Der Abschluss der zugewiesenen Lesung ist eine Voraussetzung für die Teilnahme. Wenn Sie nicht die Gelegenheit hatten, die Lesung zu machen, kommen Sie bitte ein anderes Mal vorbei. Worum geht es in diesem Buch? Die heutigen „maschinellen Lern“-Systeme, die durch Daten trainiert werden, sind so effektiv, dass wir sie eingeladen haben, für uns zu sehen und zu hören – und Entscheidungen in unserem Namen zu treffen. Aber es läuten die Alarmglocken. In den letzten Jahren hat das Gebiet des maschinellen Lernens eine Welle der Besorgnis ausgelöst. Wenn die Systeme, die wir zu lehren versuchen, letztendlich nicht das tun, was wir wollen oder was wir erwarten, entstehen ethische und potenziell existenzielle Risiken. Forscher nennen dies das Ausrichtungsproblem. Systeme sondieren Lebensläufe, bis wir Jahre später entdecken, dass sie inhärente Geschlechtervorurteile haben. Algorithmen entscheiden über Kaution und Bewährung – und scheinen schwarze und weiße Angeklagte unterschiedlich zu bewerten. Wir können nicht länger davon ausgehen, dass unser Hypothekenantrag oder sogar unsere medizinischen Tests von menschlichen Augen gesehen werden. Und während autonome Fahrzeuge unsere Straßen teilen, setzen wir zunehmend unser Leben in ihre Hände. Die mathematischen und rechnerischen Modelle, die diesen Wandel antreiben, reichen in der Komplexität von etwas, das auf ein Spreadsheet passt, bis hin zu einem komplexen System, das mit Fug und Recht als „künstliche Intelligenz“ bezeichnet werden könnte. Sie ersetzen stetig sowohl menschliches Urteilsvermögen als auch explizit programmiersoftware. In der fesselnden Darstellung des Bestsellerautors Brian Christian treffen wir die „Ersthelfer“ des Ausrichtungsproblems und erfahren von ihrem ehrgeizigen Plan, es zu lösen, bevor unsere Hände vollständig vom Steuer weg sind. In einer meisterhaften Mischung aus Geschichte und Vor-Ort-Berichterstattung verfolgt Christian das explosive Wachstum des Gebiets des maschinellen Lernens und untersucht seine aktuelle, weitläufige Grenze. Die Leser begegnen einer Disziplin, die ihren Halt findet amid spannender und manchmal beängstigender Fortschritte. Ob sie – und wir – im Lösen des Ausrichtungsproblems erfolgreich oder scheitern werden, wird eine prägende menschliche Geschichte sein. Über den Autor Christian hat Abschlüsse in Informatik, Philosophie und Dichtung von der Brown University und der University of Washington. Als Gastwissenschaftler an der University of California, Berkeley, lebt er in San Francisco. Christians Schreiben ist erschienen in The New Yorker, The Atlantic, Wired und The Wall Street Journal sowie in von Fachleuten begutachteten Zeitschriften wie Cognitive Science. Er wurde in The Daily Show und Radiolab vorgestellt und hat an Google, Facebook, Microsoft, dem Santa Fe Institute und der London School of Economics Vorträge gehalten. Seine Arbeiten wurden mit mehreren Preisen ausgezeichnet, darunter die Veröffentlichung in Best American Science & Nature Writing, und wurden in neunzehn Sprachen übersetzt. So funktioniert dieser Buchclub. Unsere Buchdiskussion wird über mehrere aufeinanderfolgende Wochen verteilt, mit zweistündigen Treffen jeden Dienstagabend. Das gibt uns Zeit, die Lesungen mit der Tiefe und Sorgfalt zu erkunden, die sie verdienen. Bitte bringen Sie Ihre eigenen anregenden Fragen und Einsichten aus der Lektüre mit, um sie mit der Gruppe zu teilen. Wir mögen lebhafte Diskussionen, die unsere eigenen Ideen und die des Autors herausfordern und es uns ermöglichen, voneinander zu lernen – während wir die Kameradschaft genießen! Alles, was wir verlangen, ist, dass jeder als gleichwertig behandelt wird, sowohl in Bezug auf Respekt als auch in etwaiger Redezeit. Fühlen Sie sich frei, im (unten stehenden Kommentar) zusätzliche Ressourcen zu posten, die Sie finden - einschließlich solcher, die den Autor herausfordern. Wir hoffen, Sie bei unseren Dienstagstreffen zu sehen!