Wenn eine ausgerichtete KI trotzdem schiefgeht

Was, wenn eine KI perfekt gehorcht... und das genau das Problem ist?Eine KI kann alle Anweisungen ihres Betreibers treu befolgen und dennoch Ergebnisse produzieren, die von der Gesellschaft missbilligt werden. Wenn das möglich ist, dann vielleicht geht es bei der KI-Ausrichtung nicht nur darum, bessere KI-Systeme zu bauen. Vielleicht geht es auch um die Organisationen, Anreize und Institutionen, die hinter ihnen stehen. Dies ist die zentrale Idee hinter der Full-Stack-Ausrichtung: nicht nur KI-Systeme auszurichten, sondern das breitere Ökosystem, in dem sie betrieben werden.Lasst uns "Full-Stack Alignment: Von der KI-Ausrichtung zur gesellschaftlichen Ausrichtung" lesen und diskutieren, das argumentiert, dass die Ausrichtung von KI erfordert, über das Modell selbst hinauszuschauen. Die Autoren schlagen vor, dass die heutigen Ansätze zur Darstellung menschlicher Werte zu simpel sind, und führen "dicke Werte-Modelle" als eine reichhaltigere Möglichkeit ein, wie KI über Werte, Normen und kollektive Interessen nachdenken kann.Dann werden wir die Diskussion über das Papier hinausführen. Wenn sich die Gesellschaft selbst selten einig ist, was richtig ist, sollte von der KI erwartet werden, dass sie es ist? Wer entscheidet, worauf eine KI optimieren sollte? Und wenn Organisationen und die Gesellschaft nicht übereinstimmen, wem sollte die KI letztendlich dienen?❗Bitte lesen Sie vor Ihrer Anmeldung❗Dies ist kein Seminar oder Vortrag. Es ist eine Diskussion, und jeder im Raum ist ein Teil davon.Mehr über den GastgeberJared Cheang ist ein KI-Sicherheitsforscher mit einem Hintergrund in Datenwissenschaft, Softwareingenieurwesen und dem Aufbau von KI-Lösungen für den öffentlichen Sektor. Seine aktuellen Forschungsinteressen erstrecken sich über KI-Kontrolle, Ausrichtung und Sicherheit-by-Design, mit einem besonderen Interesse daran, wie immer leistungsfähigere KI-Systeme zuverlässig und im Einklang mit menschlichen Werten bleiben können. Jared unterrichtet und mentort auch in der lokalen Tech-Community und hat einen Master-Abschluss in Business Analytics von der NUS.Mehr über die ReihePaper Club ist eine community-gesteuerte Initiative von Lorong AI, bei der Mitglieder zusammenkommen, um akademische Arbeiten, Forschungsartikel oder wichtige Entwicklungen in der KI zu diskutieren und zu analysieren.Beteiligt euch: Erfahrt mehr über Lorong AI | Sprecher-Anmeldung | WhatsApp-Community | LinkedIn | X