Traces de Raisonnement par Together Fund

Poursuivant notre série de salons de recherche. Traces de Raisonnement est la soirée de Together pour approfondir une seule idée, dans une petite salle, avec les personnes qui la construisent et l'étudient réellement. POURQUOI L'ALIGNEMENT, POURQUOI MAINTENANT ? L'alignement est le problème de faire en sorte que les systèmes d'IA fassent réellement ce que nous avons l'intention de faire — pas seulement ce que nous avons demandé. Au fur et à mesure que les modèles deviennent plus capables, l'écart entre "capable" et "aligné" devient le problème ouvert le plus conséquent dans le domaine. Le domaine s'est cristallisé autour de quatre objectifs — Robustesse, Interprétabilité, Contrôlabilité, Éthique (RICE) — et s'est divisé en deux grands fronts : l'alignement avant (former des systèmes à être alignés — RLHF, modélisation des préférences, supervision évolutive pour des tâches que les humains ne peuvent pas facilement superviser) et l'alignement arrière (prouver qu'ils le sont réellement — évaluations de sécurité, interprétabilité, gouvernance). Une réelle question est maintenant sur la table : alors que les modèles commencent à effectuer des tâches que nous ne pouvons pas superviser efficacement, l'alignement évolue-t-il avec la capacité — ou tombe-t-il silencieusement derrière elle ? QUI SERA DANS LA SALLE Chercheurs travaillant sur l'alignement, l'interprétabilité et les évaluations Fondateurs construisant avec des modèles à la pointe qui vivent ces compromis au quotidien Les ingénieurs les plus aigus réfléchissant à la supervision, aux red-teaming et à la sécurité Quiconque est réellement intéressé par la façon dont nous maintenons des systèmes capables orientés dans la bonne direction Lien vers la lecture préalable pertinente - https://arxiv.org/abs/2310.19852 COMMENT SE DÉROULERA LA NUIT Nous ouvrons en cadrant le sujet. Ensuite, la personne la plus impliquée dans le sujet plante le décor - ce qui est réel, ce qu'elle observe, les questions ouvertes. À partir de là, la séance est ouverte : vous intervenez, contestez, rebondissez. C'est une discussion, pas une conférence. Flexible par conception ; les bonnes choses se produisent lorsque la salle réfléchit ensemble, pas lorsque quelqu'un donne une conférence depuis une scène. Nous avons un nombre de places limité pour garantir une conversation riche, alors RSVP tôt !