Kiedy Dobrze Wyważona Sztuczna Inteligencja Może Pójść Źle

Co jeśli SI jest idealnie posłuszna... i to jest dokładnie problem? SI może wiernie realizować każde polecenie swojego operatora i wciąż produkować wyniki, które społeczeństwo uważa za niepożądane. Jeśli to możliwe, to może wyrównanie SI nie dotyczy tylko budowania lepszych systemów SI. Może chodzi również o organizacje, zachęty i instytucje, które stoją za nimi. To centralna idea pełno-stackowego wyrównania: dostosowanie nie tylko systemów SI, ale szerszego ekosystemu, w którym funkcjonują. Przeczytajmy i omówmy "Pełno-Stackowe Wyrównanie: Od Wyrównania SI do Wyrównania Społecznego", które argumentuje, że dostosowanie SI wymaga spojrzenia poza sam model. Autorzy proponują, że dzisiejsze podejścia do reprezentacji ludzkich wartości są zbyt uproszczone i wprowadzają "grube modele wartości" jako bogatszy sposób, aby SI mogła rozważać wartości, normy i wspólne interesy. Następnie przeniesiemy dyskusję poza artykuł. Jeśli samo społeczeństwo rzadko się zgadza co do tego, co jest słuszne, czy od SI należy tego oczekiwać? Kto decyduje, co SI powinna optymalizować? A gdy organizacje i społeczeństwo się nie zgadzają, komu ostatecznie powinna służyć SI? ❗Proszę Przeczytać Zanim Zarejestrujesz Się❗ To nie jest seminarium ani wykład. To jest dyskusja, a każdy w pokoju jest jej częścią. Więcej o Gospodarzu Jared Cheang jest badaczem bezpieczeństwa SI z doświadczeniem w nauce o danych, inżynierii oprogramowania oraz budowaniu rozwiązań SI dla sektora publicznego. Jego obecne zainteresowania badawcze obejmują kontrolę SI, wyrównanie i bezpieczeństwo projektowania, ze szczególnym zainteresowaniem tym, jak coraz bardziej zdolne systemy SI mogą pozostać niezawodne i dostosowane do ludzkich wartości. Jared także uczy i mentoringuje w lokalnej społeczności technologicznej oraz posiada tytuł magistra analityki biznesowej z NUS. Więcej o Serii Paper Club to społeczna inicjatywa Lorong AI, w której członkowie zbierają się, aby dyskutować i analizować prace naukowe, artykuły badawcze lub kluczowe wydarzenia w dziedzinie SI. Zaangażuj się: Dowiedz się więcej o Lorong AI | Zapisz się jako prelegent | Społeczność WhatsApp | LinkedIn | X