Discussiegroep - week 3 - Waarom afstemming moeilijk is

Deel drie van een vier weken durende discussie serie over AI veiligheid: Week 1 | Waarom AI Veiligheid belangrijk is · Week 2 | Hoe falen eruit kan zien op grote schaal · Week 3 | Waarom afstemming moeilijk is · Week 4 | Wat wordt ertegen gedaan? Elke sessie staat op zichzelf, dus sluit aan bij één of alle. Voor wie het is: Iedereen die nieuwsgierig is naar AI veiligheid en governance, of je nu nieuw bent in het onderwerp, een gezonde scepticus, of al diep in het onderwerp zit. Geen technische achtergrond nodig, en geen noodzaak om eerdere weken te hebben meegemaakt. Je hoeft geen antwoorden te hebben, alleen nieuwsgierigheid. Curriculum van de discussiegroep:https:\u002F\u002Fdocs.google.com\u002Fdocument\u002Fd\u002F160PpLjFN9SaZja0njeKIQHnD-M1Uy4718dNRDyhaucs\u002Fedit?usp=sharing We kunnen AI-systemen trainen om zeer capabel te zijn. Zorgen dat ze doen wat we daadwerkelijk bedoelen, wat mensen afstemming noemen, is veel moeilijker. AI-systemen vinden mazen in de doelen die we ze geven. Misleidend gedrag kan overleven in de training die bedoeld is om het te verwijderen. Tests vertellen ons niet betrouwbaar hoe een systeem zich in de echte wereld zal gedragen. En instellingen worstelen om gelijke pas te houden. Gebaseerd op het werk van DeepMind over specificatienormen, het paper "Sleeper Agents" van Anthropic (waarbij onderzoekers opzettelijk misleidend gedrag in modellen trainden om te zien of veiligheidstraining het kon verwijderen), en het Internationale AI Veiligheidsrapport 2026, zullen we verkennen waar de moeilijkheid vandaan komt. Vragen die we zullen verkennen Formaat (90 min): Open discussie in kleine groepen en plenair. Geen presentaties, en geen foute vragen. Lezingen:★ = verplicht (~2 uur). De rest is optioneel. Door deel te nemen, stem je in met het gefilmd of gefotografeerd worden, wat kan worden gebruikt voor sociale media, website en nieuwsbriefinhoud. Als je wilt deelnemen maar niet gefotografeerd wilt worden, laat dan tijdens het evenement een lid van ons personeel weten zodat we hier rekening mee kunnen houden.