Das Alignmentsproblem: Maschinelles Lernen und menschliche Werte

Hinweis: Unser Buchclub verlangt, dass die Teilnehmer die zugewiesenen Leser vor dem Treffen lesen. Bitte schließen Sie sich unserer Online-Buchclub-Diskussionsreihe für “Das Alignmentsproblem: Maschinelles Lernen und menschliche Werte” von Brian Christian an. Zuweisung für diese Woche: Kapitel 5 und 6. Bitte beachten: Die Abschlusslesung ist Voraussetzung für die Teilnahme. Wenn Sie keine Gelegenheit haben, das Lesen zu erledigen, nehmen Sie bitte zu einem anderen Zeitpunkt teil. Worum geht es in diesem Buch? Die heutigen „maschinellen Lernsysteme“, die durch Daten trainiert werden, sind so effektiv, dass wir sie eingeladen haben, für uns zu sehen und zu hören – und Entscheidungen in unserem Namen zu treffen. Doch die Alarmglocken läuten. In den letzten Jahren gab es einen Ausbruch von Bedenken, während das Feld des maschinellen Lernens voranschreitet. Wenn die Systeme, die wir zu lehren versuchen, am Ende nicht das tun, was wir wollen oder was wir erwarten, entstehen ethische und potenziell existenzielle Risiken. Forscher nennen dies das Alignmentsproblem. Systeme durchsuchen Lebensläufe, bis wir Jahre später entdecken, dass sie inhärente Geschlechtervorurteile aufweisen. Algorithmen entscheiden über Kaution und Bewährung – und scheinen Schwarze und Weiße Angeklagte unterschiedlich zu beurteilen. Wir können nicht mehr davon ausgehen, dass unser Hypothekenantrag, oder sogar unsere medizinischen Tests, von menschlichen Augen betrachtet werden. Und während autonome Fahrzeuge unsere Straßen teilen, legen wir zunehmend unser Leben in ihre Hände. Die mathematischen und rechnerischen Modelle, die diese Veränderungen antreiben, reichen in ihrer Komplexität von etwas, das in eine Tabelle passt, bis zu einem komplexen System, das berechtigterweise „künstliche Intelligenz“ genannt werden könnte. Sie ersetzen stetig sowohl menschliches Urteilsvermögen als auch explizit programmiierte Software. In dem fesselnden Bericht des Bestsellerautors Brian Christian treffen wir die „Ersthelfer“ des Alignmentsproblems und erfahren von ihrem ehrgeizigen Plan, es zu lösen, bevor wir unsere Hände vollständig vom Steuer nehmen. In einer meisterhaft gestalteten Mischung aus Geschichte und vor Ort gewonnenen Berichten verfolgt Christian das explosive Wachstum im Bereich des maschinellen Lernens und untersucht seine aktuelle, ausgedehnte Grenze. Die Leser begegnen einem Fachgebiet, das sich inmitten von aufregendem und manchmal erschreckendem Fortschritt aufrichtet. Ob sie – und wir – im Lösen des Alignmentsproblems erfolgreich sind oder scheitern, wird eine prägende menschliche Geschichte sein. Über den Autor Christian hat Abschlüsse in Informatik, Philosophie und Poesie von der Brown University und der University of Washington. Als Gastwissenschaftler an der University of California, Berkeley, lebt er in San Francisco. Christians Schreiben erschien in The New Yorker, The Atlantic, Wired und The Wall Street Journal sowie in begutachteten Zeitschriften wie Cognitive Science. Er war in The Daily Show und Radiolab zu sehen und hat an der Google, Facebook, Microsoft, Santa Fe Institute und der London School of Economics Vorträge gehalten. Seine Arbeiten haben mehrere Auszeichnungen gewonnen, darunter die Veröffentlichung in Best American Science & Nature Writing und wurden in neunzehn Sprachen übersetzt. Wie dieser Buchclub funktioniert. Unsere Buchbesprechung wird über mehrere aufeinanderfolgende Wochen verteilt, mit zweistündigen Treffen jeden Dienstagabend. Das gibt uns Zeit, die Lektüre mit der Tiefe und Sorgfalt zu erkunden, die sie verdient. Bitte bringen Sie Ihre eigenen anregenden Fragen und Erkenntnisse aus der Lektüre mit, um sie mit der Gruppe zu teilen. Wir mögen lebhafte Diskussionen, die unsere eigenen Ideen und die des Autors herausfordern und es uns ermöglichen, voneinander zu lernen – während wir Kameradschaft genießen! Alles, was wir bitten, ist, dass jeder als Gleichwertiger behandelt wird, sowohl im Respekt als auch in der ungefähren Redezeit. Fühlen Sie sich frei, (in den Kommentaren unten) zusätzliche Ressourcen, die Sie finden – einschließlich solcher, die den Autor herausfordern – zu posten. Wir hoffen, Sie bei unseren Dienstagstreffen zu sehen!