AGI & de Staat

Thomas Hobbes stelde zich de soeverein voor als de ultieme bron van autoriteit: krachtig genoeg om orde te handhaven, precies omdat niets binnen de samenleving het zou kunnen evenaren. Bijna vier eeuwen later begint die aanname minder vanzelfsprekend te lijken. Voor vanavond slaan we de gebruikelijke vraag over: zal AGI gebeuren? In plaats daarvan vragen we wat regeringen zouden moeten doen om zich voor te bereiden op een economische en politieke transformatie die anders zou kunnen zijn dan alles wat ze daarvoor hebben bestuurd. We zullen vragen verkennen zoals: Belasten we automatisering? Herverdelen we de winsten via een soort AI-dividend of universeel inkomen? Investeren we in soevereine AI-infrastructuur? Behandelen we toegang tot geavanceerde modellen als een openbare voorziening? Of zouden pogingen om de overgang te beheren simpelweg de regeringen achterlaten die proberen een economie centraal te plannen die ze onmogelijk kunnen begrijpen? Denk aan Nassim Taleb's Antifragiel & Zwarte Zwaan. Deze vragen lijken misschien over een nieuwe technologie te gaan, maar het zijn ook zeer oude politieke en filosofische problemen. Rousseau vroeg wat politieke autoriteit legitiem maakt. Rawls vroeg hoe de voordelen van de samenleving eerlijk moeten worden verdeeld. Hayek waarschuwde tegen regeringen die complexe systemen proberen te beheersen waarvan de kennis verspreid is over miljoenen individuen. Geen van hen had AGI in gedachten. Bij ons zal Daniel Nieto zijn, wiens carrière zich heeft afgespeeld tussen regeringen, de VN en de private sector. Met de fascinerende rol van het adviseren van publieke instellingen over de hele wereld over technologieovergangen en AI. Zoals altijd, dit is geen panel. Geen dia's die doen alsof ze weten hoe 2040 eruitziet. Gewoon één licht ongemakkelijke vraag: Zijn onze regeringen klaar voor wat komen gaat?