Sampura Research - Praat+Sociaal

Sampura Research: Heuvelbeklimmen Alignering met Mensen Sampura Research is een in Londen gevestigde non-profit, opgericht door alumni van Google DeepMind, die zich richt op de Complementariteit tussen Mens en AI voor AI-alignering. Naarmate AI-systemen vaardiger worden, voldoen de beoordelaars die we gebruiken om ze te trainen, evalueren en monitoren steeds minder. Het merendeel van het veld reageert door mensen te vervangen door LLM-beoordelaars; wij denken dat mensen en AI's complementaire sterke punten hebben, en dat menselijke toezicht een ongecorreleerde verdedigingslaag is die AI-alleen beoordelaars niet kunnen bieden. In deze lezing delen we hoe we betere beoordelaars bouwen: een ranglijst van 50+ datasets die relevant zijn voor alignering, en methoden die route, decompositie en assistentie bieden tussen mensen en AI's om deze te verbeteren. Ondersteund door een subsidie van $11M van Coefficient Giving, zijn we een klein team dat in persoon werkt en op zoek is naar oprichters van technische staf, gericht op het oplossen van alignering in plaats van alleen AI te pauzeren. Kom langs en zeg hallo! Schema (gedeeld gehost door Carnegie AI Safety Initiative) 13:00 – Lezing (30 min) 13:30 – Q&A (20 min) 13:50 – Informeel gesprek (10++ min) Locatie: Kamer GHC 6115, Gates Center voor Computer Science, Carnegie Mellon University Of, sluit virtueel aan: Meet Link Wil je apart afspreken? Voeg je informatie toe in deze Google Sheet, of e-mail [email protected]! Aanmelden: Aanvraag voor Oprichters Lid van Technische Staf Meld je aan voor onze mailinglijst: Mailinglijst Website: sampura.org