AGI i państwo

Thomas Hobbes wyobrażał sobie suwerena jako ostateczne źródło autorytetu: na tyle potężnego, aby utrzymać porządek, ponieważ nic w społeczeństwie nie mogło się z nim równać. Prawie cztery stulecia później to założenie zaczyna wyglądać na mniej oczywiste. Na dzisiejszy wieczór pomijamy zwykłe pytanie: czy AGI się wydarzy? Zamiast tego pytamy, co rządy powinny robić, aby przygotować się na transformację gospodarczą i polityczną, która może być zupełnie inna niż cokolwiek, co dotąd regulowały. Odkryjemy pytania takie jak: Czy powinniśmy opodatkować automatyzację? Redystrybuować zyski w formie dywidendy AI lub dochodu uniwersalnego? Inwestować w suwerenną infrastrukturę AI? Traktować dostęp do zaawansowanych modeli jako użyteczność publiczną? A może próby zarządzania przejściem po prostu zostawią rządy z próbami centralnego planowania gospodarki, której nie mogą zrozumieć? Pomyśl o „Antykruchości” i „Czarnym Łabędziu” Nassima Taleba. Te pytania mogą brzmieć jak pytania o nową technologię, ale są również bardzo starymi problemami politycznymi i filozoficznymi. Rousseau pytał, co czyni autorytet polityczny legitymnym. Rawls pytał, jak korzyści społeczne powinny być sprawiedliwie dystrybuowane. Hayek ostrzegał przed próbami kontrolowania przez rządy złożonych systemów, której wiedza jest rozproszona wśród milionów jednostek. Żaden z nich nie miał na myśli AGI. Dołączy do nas Daniel Nieto, którego kariera balansowała między rządami, ONZ a sektorem prywatnym. Z fascynującą rolą doradcy instytucji publicznych na całym świecie w zakresie przejść technologicznych i AI. Jak zawsze, to nie jest panel. Żadne slajdy udające, że wiemy, jak będzie wyglądał 2040 rok. Jedno lekko niekomfortowe pytanie: Czy nasze rządy są gotowe na to, co nadchodzi?