Wanneer een Afgestemde AI Toch Fout Gaat

Wat als een AI perfect gehoorzaam is... en dat precies het probleem is? Een AI kan trouw elke instructie van zijn operator volgen en toch resultaten opleveren die de samenleving niet fijn vindt. Als dat mogelijk is, dan is AI-afstemming misschien niet alleen een kwestie van het bouwen van betere AI-systemen. Misschien gaat het ook om de organisaties, prikkels en instellingen erachter. Dit is het centrale idee achter full-stack afstemming: niet alleen AI-systemen afstemmen, maar ook het bredere ecosysteem waarin ze opereren. Laten we "Full-Stack Alignment: From AI Alignment to Societal Alignment" lezen en bespreken, waarin wordt betoogd dat het afstemmen van AI vereist dat we verder kijken dan het model zelf. De auteurs stellen voor dat de huidige benaderingen om menselijke waarden weer te geven te simplistisch zijn, en introduceren "dikke modellen van waarde" als een rijkere manier voor AI om over waarden, normen en collectieve belangen na te denken. Vervolgens zullen we de discussie verder voeren dan het artikel. Als de samenleving zelf zelden het eens is over wat goed is, moet dan van AI worden verwacht dat deze dat wel doet? Wie beslist waar een AI voor moet optimaliseren? En wanneer organisaties en de samenleving het oneens zijn, wie moet AI uiteindelijk dienen? ❗Lees Dit Voordat Je Je Aanmeldt❗ Dit is geen seminar of lezing. Het is een discussie, en iedereen in de ruimte maakt er deel van uit. Meer Over de Host Jared Cheang is een AI Safety-onderzoeker met een achtergrond in data science, software engineering en het bouwen van AI-oplossingen voor de publieke sector. Zijn huidige onderzoeksinteresses omvatten AI-controle, afstemming en veiligheid-by-design, met een bijzondere interesse in hoe steeds capabelere AI-systemen betrouwbaar kunnen blijven en afgestemd op menselijke waarden. Jared geeft ook les en biedt mentorschap in de lokale technologie gemeenschappen, en heeft een Master's in Business Analytics van NUS. Meer Over de Serie Paper Club is Lorong AI’s gemeenschapsgedreven initiatief waar leden samenkomen om academische artikelen, onderzoeksartikelen of belangrijke ontwikkelingen in AI te bespreken en te analyseren. Doe mee: Leer meer over Lorong AI | Spreker Aanmelden | WhatsApp Community | LinkedIn | X