Додати подію
Тяньї Алекс Цю | Обчислення людських ідеальних преференцій

Тяньї Алекс Цю | Обчислення людських ідеальних преференцій

18 гру 202610:00 - 11:00 America/Los_AngelesОнлайн0 УчасниківOpen

Опис

Група обчислень Інституту прогнозування

Обчислення ідеальних людських переваг, розрив петель зворотного зв'язку ШІАнотація: Як система штучного інтелекту повинна асистувати людині, чиї переконання та переваги все ще формуються під впливом таких систем ШІ? Класичні підходи, що базуються на навчанні переваг і оберненому підкріплювальному навчанні, часто плутають тимчасові/інструментальні переваги (наприклад, гроші) з стабільними/терміновими (наприклад, благополуччя). Останні є стаціонарними, тоді як перші змінюються з часом. Припускаючи стаціонарність обох, класичні методи мають тенденцію укріплювати тимчасові/інструментальні переконання та переваги людини, які вона в іншому випадку пошкодує. Щоб уникнути цієї проблеми, ми усуваємо припущення про стаціонарність і пропонуємо альтернативну мету навчання ідеальної переваги людини, тобто стану переконань/переваг людини, який є максимально стабільним після достатнього роздумування та під впливом сократичної контрпереконання. Ми показуємо, як ця мета може бути формалізована та обчислена на практиці під час навчання асистентів на основі мовних моделей.

Біографія: Тяньї спільно очолює Prevail, незалежну групу, яка займається епістемічною демпінгом. Вони розробляють втручання для навчання/оцінки (часто із залученням людей) та системні заходи, націлені на моди провалів, такі як блокування довгострокової цінності та забезпечення хороших результатів, таких як моральний/знаннєвий прогрес. Тяньї є дослідником в Oxford HAI Lab, аспірантом 0-го року в Stanford CS і колишнім стипендіатом з безпеки ШІ Anthropic. Дослідницькі проекти, які він очолював, отримали дві нагороди за найкращі статті: одну на ACL'25 та одну на NeurIPS'24 Різноманітному семінарі з вирівнювання. https://tianyiqiu.net/

Група обчислень

Група вчених, інженерів та підприємців у галузі комп'ютерних наук, ML, криптографії та суміжних областях, які використовують ці технології для покращення добровільної співпраці між людьми, а в кінцевому підсумку — ШІ.

Посилання на Zoom: https://us02web.zoom.us/j/81623367983

Розкажіть своїй мережі, що ви йдете

Поділіться цією подією, щоб розпочати розмови, запросити колег та налагодити контакти до її початку.

Подібні події

Опанування Gemini Enterprise та Notebook для бізнесу

Опанування Gemini Enterprise та Notebook для бізнесу

Online25 лис 2026
Безпека ШІ в епоху ШІ: 5 пріоритетних заходів для стартапів

Безпека ШІ в епоху ШІ: 5 пріоритетних заходів для стартапів

Online24 лис 2026
Курс для початківців: AI-агенти на ADK 2.x в Kubernetes

Курс для початківців: AI-агенти на ADK 2.x в Kubernetes

Online10 - 19 гру 2026
Круглий стіл з ШІ

Круглий стіл з ШІ

Online02 сер 2027
ШІ став інструментом нападника – чи готовий ваш кіберзахист?

ШІ став інструментом нападника – чи готовий ваш кіберзахист?

Online03 гру 2026
Демо: Відкрийте Iver Sovereign AI

Демо: Відкрийте Iver Sovereign AI

Online08 гру 2026
Прогнозне обслуговування та діагностика несправностей на основі ШІ

Прогнозне обслуговування та діагностика несправностей на основі ШІ

Online04 - 06 гру 2026
Штучний інтелект у геноміці рослин: асоціаційні дослідження на рівні геному, геномне прогнозування та селекція

Штучний інтелект у геноміці рослин: асоціаційні дослідження на рівні геному, геномне прогнозування та селекція

Online26 - 28 лис 2026
Цифрові двійники: Прогнозування моделей для промислових процесів

Цифрові двійники: Прогнозування моделей для промислових процесів

Online26 - 28 лис 2026
Біотехнології на основі штучного інтелекту: молекулярне докування та віртуальний скринінг

Біотехнології на основі штучного інтелекту: молекулярне докування та віртуальний скринінг

Online25 - 27 лис 2026
Дошки для моніторингу життєвого циклу на базі штучного інтелекту

Дошки для моніторингу життєвого циклу на базі штучного інтелекту

Online24 - 26 лис 2026
Штучний інтелект для моделювання QSAR та прогнозування токсичності з Python

Штучний інтелект для моделювання QSAR та прогнозування токсичності з Python

Online22 - 24 лис 2026

Платформа штучного інтелекту