Reasoning Traces by Together Fund

Wir setzen unsere Reihe von Forschungssalons fort. Reasoning Traces ist der Abend von Together, an dem wir tief in eine einzige Idee eintauchen, in einem kleinen Raum, mit den Menschen, die sie tatsächlich bauen und erforschen.WARUM ALIGNMENT, WARUM JETZT ?Alignment ist das Problem, dass KI-Systeme tatsächlich das tun, was wir beabsichtigen — nicht nur das, was wir gefragt haben. Während die Modelle fähiger werden, wird die Kluft zwischen "fähig" und "ausgerichtet" zum folgenreichsten offenen Problem in diesem Bereich.Das Feld hat sich um vier Ziele kristallisiert — Robustheit, Interpretierbarkeit, Kontrollierbarkeit, Ethik (RICE) — und sich in zwei große Fronten aufgeteilt: Vorwärtsalignment (Trainingssysteme auszurichten — RLHF, Präferenzmodellierung, skalierbare Aufsicht für Aufgaben, die Menschen nicht leicht überwachen können) und Rückwärtsalignment (nachzuweisen, dass sie tatsächlich ausgerichtet sind — Sicherheitsevaluierungen, Interpretierbarkeit, Governance).Eine echte Frage steht jetzt auf dem Tisch: Wenn Modelle anfangen, Aufgaben zu erledigen, die wir nicht effektiv überwachen können, skaliert Alignment mit der Fähigkeit — oder fällt es leise zurück?WER WIRD IM RAUM SEINForscher, die an Alignment, Interpretierbarkeit und Evaluierungen arbeitenGründer, die mit Grenzmodellen bauen und täglich mit diesen Abwägungen lebenDie schärfsten Ingenieure, die über Aufsicht, Red-Teaming und Sicherheit nachdenkenJeder, der echt interessiert ist, wie wir fähige Systeme in die richtige Richtung lenkenLink zur relevanten Vorab-Lektüre - https://arxiv.org/abs/2310.19852WIE DER ABEND VERLAUFEN WIRDWir beginnen mit der Einführung des Themas. Dann setzt die Person, die am tiefsten darin steckt, die Szene - was echt ist, was sie sehen, die offenen Fragen. Von dort öffnet sich der Raum: du springst ein, widersprichst, baust darauf auf.Es ist eine Diskussion, kein Vortrag. Locker gestaltet; das Gute passiert, wenn ein Raum gemeinsam denkt, nicht wenn jemand von einer Bühne aus lehrt.Wir haben begrenzte Plätze, um reichhaltige Gespräche zu gewährleisten, also melde dich frühzeitig an!