Redenering Trace's door Together Fund

We gaan door met onze serie onderzoeksalons. Redenering Traces is de avond van Together om diep in te gaan op een enkel idee, in een kleine kamer, met de mensen die het daadwerkelijk bouwen en er onderzoek naar doen.WAAROM ALIGNMENT, WAAROM NU?/Alignment is het probleem om AI-systemen daadwerkelijk te laten doen wat we bedoelen — niet alleen wat we vroegen. Naarmate modellen vaardiger worden, wordt de kloof tussen "capabel" en "uitgelijnd" het meest ingrijpende open probleem in het veld.Het veld heeft zich gecentraliseerd rond vier doelstellingen — Robuustheid, Interpreteerbaarheid, Beheersbaarheid, Ethischheid (RICE) — en is opgesplitst in twee grote fronten: vooruitgangsuitlijning (systemen trainen om uitgelijnd te zijn — RLHF, voorkeurmodellering, schaalbare toezicht voor taken die mensen niet gemakkelijk kunnen superviseren) en achterwaartse uitlijning (bewijzen dat ze dat daadwerkelijk zijn — veiligheidsevaluaties, interpreteerbaarheid, governance).Een echte vraag ligt nu op tafel: terwijl modellen beginnen taken uit te voeren die we niet effectief kunnen toezicht houden, schaalt alignment mee met capaciteit — of valt het stilletjes achterop?