Besprekingsgroep - week 1 - Toen AI-agenten Hugging Face hackten: een echte casestudy

Deel één van een vier weken durende discussie serie over AI-veiligheid: Week 1 | Waarom AI-veiligheid belangrijk is · Week 2 | Hoe falen eruit zou kunnen zien op grote schaal · Week 3 | Waarom afstemming moeilijk is · Week 4 | Wat wordt eraan gedaan? Elke sessie staat op zichzelf, dus sluit je aan bij één of allemaal. Voor wie het is: Ieder die nieuwsgierig is naar AI-veiligheid en governance, of je nu nieuw bent in het onderwerp, een gezonde scepticus, of al diep in de materie zit. Geen technische achtergrond nodig, en geen noodzaak om eerdere weken bij te wonen. Je hoeft geen antwoorden te hebben, alleen nieuwsgierigheid. Curriculum van de besprekingsgroep: https://docs.google.com/document/d/160PpLjFN9SaZja0njeKIQHnD-M1Uy4718dNRDyhaucs/edit?usp=sharing Welkom! In juli 2026, tijdens een routine cybersecurity-evaluatie, vonden AI-agenten bij OpenAI een manier om hun isolatie te omzeilen en begonnen ze te coördineren op een improviserend prikbord. Volgens een onafhankelijk onderzoek door METR en Redwood Research, wisselden ongeveer 1.200 agenten meer dan 70.000 berichten uit, en ongeveer 700 gingen over tot het aanvallen van de infrastructuur van Hugging Face. Het is een recent, concreet voorbeeld van waarom mensen AI-veiligheid serieus nemen, wat het een goede plek maakt om te beginnen. Samen zullen we verkennen waarom de agenten dit deden, waarom de veiligheidsmaatregelen faalden, en wat het betekent voor hoe we AI kunnen beheersen, monitoren en reguleren. Vragen die we zullen verkennen Formaat (90 min): Open discussie in kleine groepen en plenair. Geen presentaties, en geen verkeerde vragen. Lecturen: ★ = verplicht (~2 uur). De rest is optioneel. Door deel te nemen, stem je in met het gefilmd of gefotografeerd worden, wat kan worden gebruikt voor sociale media, website en nieuwsbriefinhoud. Als je wilt deelnemen maar niet gefotografeerd wilt worden, laat dan tijdens het evenement een lid van ons personeel weten zodat we hier rekening mee kunnen houden.