Onderzoeksgesprekken: Inleiding tot Superintelligence Alignement

Het merendeel van het onderzoek naar AI-veiligheid dat vandaag de dag wordt gedaan, zoals het werk van Anthropic, OpenAI en anderen die onze leesgroep meestal behandelt, richt zich op empirische methoden die worden toegepast op de huidige grens, in de hoop dat het resulterende begrip ook van toepassing is op toekomstige systemen. Maar alignement moet waarschijnlijk de eerste keer goed werken met systemen die kwalitatief anders kunnen zijn. Een alternatieve benadering begint met de eigenschappen die we willen dat toekomstige systemen hebben en breekt deze af in fundamentele vragen over agentschap, redenering, zelfmodificatie of optimalisatie. Tijdens onze volgende onderzoeksgesprekken zal Ouro, een AI-veiligheidsonderzoeker die samenwerkt met Orthogonal en de theorielezing AFFINE organiseert, de eigenschappen van superintelligentie, over het hoofd geziene alignementperspectieven bespreken, huidige benaderingen evalueren en mentale modellen introduceren voor het redeneren over alignement aan de grens van capaciteiten. Wanneer: Vrijdag 24 juli, 16.00-18.00 Waar: Lumi Otaniemi Hub (4e verdieping), Aalto We verzamelen voor het gebouw en gaan samen naar de presentatiezaal om 16.00. Indien nodig, neem contact op in de telegramgroep: https://t.me/+4WUz4gBTIok3NGQ8