AI 2040: Plan A

Description

Laten we samenkomen en AI 2040: Plan A bespreken, het nieuwe scenario van het AI Futures Project (het team achter AI 2027). In tegenstelling tot AI 2027 is het een aanbeveling in plaats van een voorspelling: een internationale overeenkomst waarin de VS en China in 2029 overeenkomen een race naar superintelligentie te vermijden, al het AI-onderzoek wordt openbaar transparant, de capaciteiten schalen langzaam door het menselijke bereik, en de wereld pauzeert op het niveau van top menselijke experts voordat we opzettelijk superintelligentie bouwen in 2040, gehandhaafd door verificatieschema's en "mutually assured compute destruction" (de datacenters van China worden, tot verbazing, in Canada gebouwd). We zullen bespreken of het plan samenhangend is, of het haalbaar is, of het zelfs wenselijk is, en wat we in plaats daarvan zouden doen. Het volledige scenario is lang. Als je niet het hele ding kunt lezen (en er is veel te lezen), lees dan het hoofdverhaal tot 2030 plus de samenvatting en Scott's introductie hieronder, en kijk of je in ieder geval de hoofdzaak van AI 2040 kunt begrijpen. Ik heb het belangrijkste lezen verdeeld in blokken van 45 minuten tot 1 uur die je hier kunt aanmelden en claimen. Als de sheet vol is, deel dan een sectie met iemand. Aanmelden om te lezen Lezingen Aanvullende lezingen