Sampura Research - Talk+Social

Sampura Research: Bergauffallende Ausrichtung mit Menschen Sampura Research ist eine in London ansässige gemeinnützige Organisation, gegründet von Alumni von Google DeepMind, die die Mensch-KI-Komplementarität für die KI-Ausrichtung aufbaut. Mit zunehmender Leistungsfähigkeit der KI-Systeme sind die Richtlinien, die wir zur Schulung, Bewertung und Überwachung nutzen, immer weniger geeignet. Die Mehrheit des Feldes reagiert darauf, indem sie Menschen durch LLM-Richter ersetzt; wir glauben, dass Menschen und KIs komplementäre Stärken haben und dass die menschliche Aufsicht eine unkorrelierte Verteidigungsschicht ist, die KI-only Richter nicht bieten können. In diesem Vortrag werden wir teilen, wie wir bessere Richter aufbauen: ein Ranglisten von über 50 ausrichtungsrelevanten Datensätzen und Methoden, die Menschen und KIs routen, zerlegen und unterstützen, um sie zu maximieren. Unterstützt durch einen Zuschuss von 11 Millionen Dollar von Coefficient Giving sind wir ein kleines Team vor Ort, das Gründer-Techniker einstellt und darauf abzielt, die Ausrichtung zu lösen, anstatt nur die KI zu pausieren. Kommt vorbei und sagt Hallo! Zeitplan (mitveranstaltet von der Carnegie AI Safety Initiative)13:00 – Vortrag (30 Min)13:30 – Q&A (20 Min)13:50 – Informelles Gespräch (10++ Min)Ort: Raum GHC 6115, Gates Center for Computer Science, Carnegie Mellon UniversityOder, virtuell teilnehmen: Meet Link Möchten Sie sich separat treffen?Bitte fügen Sie Ihre Informationen in dieses Google Sheet ein oder senden Sie eine E-Mail an [email protected]! Bewerben: Bewerbung für Gründungsmitglied des technischen PersonalsTreten Sie unserer Mailingliste bei: MailinglisteWebsite: sampura.org