Sampura Onderzoek - Praat+Sociaal

Sampura Onderzoek: Heuvelbeklimmen Alignement met behulp van mensen Sampura Onderzoek is een in Londen gevestigde non-profitorganisatie, opgericht door alumni van Google DeepMind, die Human-AI Complementariteit voor AI-alignement ontwikkelt. Naarmate AI-systemen krachtiger worden, voldoen de beoordelaars die we gebruiken om ze te trainen, te evalueren en te monitoren steeds minder. De meeste mensen in het veld reageren door mensen te vervangen door LLM-beoordelaars; wij geloven dat mensen en AI's complementaire sterke punten hebben, en dat menselijke toezicht een ongerelateerde verdedigingslaag is die AI-only beoordelaars niet kunnen bieden. In deze talk delen we hoe we betere beoordelaars bouwen: een ranglijst van 50+ alignement-relevante datasets, en methoden die routeren, decompositie en assistentie bieden tussen mensen en AI's om het te heuvelbeklimmen. Schema (je kunt bij elk onderdeel aansluiten) 17:00 – Praatje (20 min) 17:20 – Vragen & Antwoorden (20 min) 17:40 – Informeel gesprek met het team (20 min) Gesteund door een subsidie van $11 miljoen van Coefficient Giving, zijn we een klein in-person team dat oprichtend technisch personeel aanstelt en probeert alignement op te lossen in plaats van AI te pauzeren. Kom langs en zeg hallo! Aanmelden: Aanvraag voor Oprichtend Lid van Technisch Personeel Website: https://sampura.org/