Das Alignierungsproblem: Maschinelles Lernen und menschliche Werte

Hinweis: Unser Buchclub verlangt, dass die Teilnehmer die zugewiesenen Leser vor dem Treffen lesen. Bitte schließen Sie sich uns für unsere Online-Buchclub-Diskussionsreihe zu „Das Alignierungsproblem: Maschinelles Lernen und menschliche Werte“ von Brian Christian an. Zu lesende Kapitel für diese Woche: Kapitel 7 und 8. Bitte beachten: Der Abschluss der zugewiesenen Lektüre ist eine Voraussetzung für die Teilnahme.. Wenn Sie keine Gelegenheit haben, zu lesen, kommen Sie bitte ein anderes Mal. Worum geht es in diesem Buch? Die heutigen „maschinellen Lernsysteme“, die mit Daten trainiert werden, sind so effektiv, dass wir sie eingeladen haben, für uns zu sehen und zu hören – und Entscheidungen in unserem Namen zu treffen. Aber die Alarmglocken läuten. In den letzten Jahren gab es einen Ausbruch von Bedenken, während sich das Feld des maschinellen Lernens weiterentwickelt. Wenn die Systeme, die wir versuchen zu lehren, am Ende nicht tun, was wir wollen oder was wir erwarten, entstehen ethische und potenziell existenzielle Risiken. Forscher sprechen von dem Alignierungsproblem. Systeme sichten Lebensläufe, bis wir Jahre später feststellen, dass sie inhärente Geschlechtervorurteile haben. Algorithmen entscheiden über Kaution und Bewährung – und scheinen schwarze und weiße Angeklagte unterschiedlich zu bewerten. Wir können nicht mehr davon ausgehen, dass unser Hypothekenantrag oder sogar unsere medizinischen Tests von menschlichen Augen gesehen werden. Und während autonome Fahrzeuge unsere Straßen teilen, setzen wir zunehmend unser Leben in ihre Hände. Die mathematischen und rechnerischen Modelle, die diese Veränderungen antreiben, reichen von etwas, das auf ein Spreadsheet passt, bis hin zu einem komplexen System, das glaubwürdig als „künstliche Intelligenz“ bezeichnet werden könnte. Sie ersetzen stetig sowohl menschliches Urteilsvermögen als auch explizit programmmierte Software. In dem packenden Bericht des Bestsellerautors Brian Christian treffen wir auf die „Ersthelfer“ des Alignierungsproblems und erfahren von ihrem ehrgeizigen Plan, es zu lösen, bevor unsere Hände vollständig vom Steuer genommen werden. In einer meisterhaften Mischung aus Geschichte und praktischer Berichterstattung verfolgt Christian das explosive Wachstum im Bereich des maschinellen Lernens und befragt seine derzeitige, weitläufige Grenze. Die Leser begegnen einer Disziplin, die ihre Beine findet amid aufregendem und manchmal beängstigenden Fortschritt. Ob sie – und wir – im Lösen des Alignierungsproblems erfolgreich sind oder scheitern, wird eine prägende menschliche Geschichte sein. Über den Autor Christian hat Abschlüsse in Informatik, Philosophie und Poesie von der Brown University und der University of Washington. Er ist Gastwissenschaftler an der University of California, Berkeley und lebt in San Francisco. Christians Schriften sind in The New Yorker, The Atlantic, Wired und The Wall Street Journal sowie in Fachzeitschriften wie Cognitive Science erschienen. Er wurde in der Late-Night-Show und Radiolab vorgestellt und hat an Google, Facebook, Microsoft, dem Santa Fe Institute und der London School of Economics Vorträge gehalten. Seine Arbeiten wurden mit mehreren Preisen ausgezeichnet, darunter die Veröffentlichung in Best American Science & Nature Writing, und wurden in neunzehn Sprachen übersetzt. Wie dieser Buchclub funktioniert. Unsere Buchdiskussion wird über mehrere aufeinanderfolgende Wochen verteilt, mit zweistündigen Treffen jeden Dienstagabend. Dies gibt uns Zeit, die Lesungen mit der Tiefe und Sorgfalt zu erkunden, die sie verdienen. Bitte bringen Sie Ihre eigenen anregenden Fragen und Einsichten aus der Lektüre mit, um sie mit der Gruppe zu teilen. Wir mögen lebhafte Diskussionen, die unsere eigenen Ideen und die des Autors herausfordern und es uns ermöglichen, voneinander zu lernen – während wir Kameradschaft genießen! Alles, was wir fragen, ist, dass jeder als Gleichgestellter behandelt wird, sowohl in Respekt als auch in etwaiger Sprechzeit. Fühlen Sie sich frei, (in den Kommentaren unten) zusätzliche Ressourcen zu posten, die Sie finden – einschließlich solcher, die den Autor herausfordern. Wir hoffen, Sie bei unseren Treffen am Dienstag zu sehen!