AISHK Lezing Groep Sociale Diner: Machine Learning en Menselijke Waarden

Vorig maand hebben we AI-menselijke afstemming vanuit één hoek onderzocht: waarom het zo moeilijk is om AI's te laten doen wat mensen willen. Deze maand wenden we ons tot de andere kant van de vergelijking—wat te zeggen van de mens in het afstemprobleem?Brian Christian’s The Alignment Problem: Machine Learning and Human Values (uittreksel) https://www.penguinrandomhouse.ca/books/201876/the-most-human-human-by-brian-christian/9780307476708/excerptNet zoals er nu duizenden subtiel verschillende AI-modellen zijn met verschillende niveaus van openheid en veiligheidscontroles, bestaat de "mensheid" uit minstens 8 miljard levende mensen, elk met verschillende niveaus van elke eigenschap die je maar kunt noemen—zelfs die eigenschappen die we beschouwen als "kern" menselijke eigenschappen (emotionele afstemming, ambitie, precisie, cognitieve flexibiliteit, identiteit, enzovoort). Dus net zoals sommige mensen anderen met vriendelijkheid en empathie behandelen (gerechtvaardigd of niet), behandelen anderen hen met kilte, onverschilligheid of outright wreedheid (gerechtvaardigd of niet).In een tijdperk van modellen die empathie, sympathie en andere zachte "menselijke" eigenschappen overtuigend simuleren, vragen we ons af: wat maakt mensen menselijk genoeg? De lezing van deze maand is het eerste hoofdstuk van Brian Christian's The Most Human Human: What Talking to Computers Teaches Us About What It Means to Be Alive. Geschreven in 2011, voordat moderne AI de huidige verfijning bereikte, stelt het boek desondanks een opvallende vraag—wat betekent het om concurrentie te ondervinden in een arena waarvan we nooit verwachtten te moeten verdedigen: mens zijn?Locatie: Museum Café 8Gasten wordt gevraagd om minimaal 1 aankoop te doen in het café.Discussievragen:1. Geen enkele mens is de hele tijd vriendelijk, begrijpelijk, creatief of aanmoedigend. Heb je ooit iemand ontmoet die frustrerend zich als een traditionele "machine" gedroeg—weinig empathie toonde in een moeilijke situatie, misschien door rigide "de vastgestelde regels" te volgen? Wat zou een AI in plaats daarvan gezegd of gedaan kunnen hebben? Zou het vervangen van die persoon door een AI enige verschil hebben gemaakt, ten goede of ten slechte?2. Gevraagd waarom het zo moeilijk is om een beerbestendige afvalbak te ontwerpen, antwoordde een park ranger eens: "Er is aanzienlijke overlap tussen de intelligentie van de slimste beren en de domste toeristen." In dezelfde geest, welke minimale standaard zouden we kunnen stellen voor een morele, emotionele of andere menselijke eigenschap zodat de minst menselijke mens deze nog steeds overwint, terwijl de meest menselijke AI dit niet doet? En wat zou het voor ons betekenen als er geen duidelijke grens getrokken kan worden op basis van enige redelijke principe?3. Mensen zijn nog nooit eerder op geloofwaardige wijze uitgedaagd op "menselijk genoeg" te zijn. Een angstreactie kan de vorm aannemen van vechten, vluchten, bevriezen of vleien. Welke van deze reacties op AI heb je bij anderen waargenomen? Welke heb je bij jezelf opgemerkt?4. Angst kan een productieve motivatie zijn. Wat zou AI ons mensen kunnen aanmoedigen om te verbeteren?5. Mens zijn is om flawed te zijn. Computers werden traditioneel beschouwd als "foutloos" in hun taken—en daarom onmenselijk (denk aan een rekenmachine en complexe rekenkunde). Wat betekent het nu dat we AI's hebben die ook op verschillende manieren flawed zijn?Bonusvragen:1. Niet iedereen houdt van andere mensen. Sommigen geven de voorkeur aan minimale interactie, vooral wanneer ze omringd zijn door onaangename gezelschap, en velen vinden verlichting in het praten met een vreemde die slechts minimale reacties biedt—of met een computer—precies omdat geen van beiden moreel oordeel zal vellen. (Voor sympathieke portretten van deze mentaliteit, zie Shoji Morimoto's Rental Person Who Does Nothing; voor onsympathieke, zie r/misanthropy.) Wat zou dit feit over de mensheid impliceren voor het afstemprobleem?2. Maakt het niet leuk vinden van andere mensen je "minder" menselijk?3. Zou iemand de mensheid zozeer kunnen haten dat hij minder menselijk wordt dan een AI?Opmerking: Voor een gevoel van chatbotkwaliteit in 2011—het soort "AI" waar tegen wordt geconcurreerd in de Loebner Prize—bezoek A.L.I.C.Ebot (https://www.pandorabots.com/pandora/talk?botid=b8d616e35e36e881). Degenen die nieuw zijn in het veld zullen opmerken hoe anders "AI" toen was, en waarom "AI-veiligheid" weinig interesse wekte bij het grote publiek.Wie zou er moeten komen?Geen technische achtergrond vereist. The Alignment Problem is geschreven voor een algemeen publiek, dat geschiedenis, verslaggeving en toegankelijke uitleg van belangrijke ideeën in machine learning en AI-ethiek mengt. Of je nu werkt in beleid, governance, onderzoek, recht, business, of je probeert gewoon te begrijpen hoe AI-systemen al menselijke beslissingen vormgeven, je bent welkom.Kies om klaar te zijn om echte systemen te onderzoeken, niet alleen abstracte denkexperimenten, en om te vragen hoe de lessen uit Christian’s casestudy's de afstemming en veiligheidswerk hier in Hongkong en daarbuiten zouden moeten informeren.