KI 2040: Plan A

Lass uns versammeln und über KI 2040: Plan A diskutieren, das neue Szenario des AI Futures Project (dem Team hinter KI 2027). Im Gegensatz zu KI 2027 ist es eine Empfehlung und keine Vorhersage: ein internationales Abkommen, in dem die USA und China sich 2029 darauf einigen, ein Rennen zur Superintelligenz zu vermeiden, alle KI-Forschung wird öffentlich transparent, die Fähigkeiten entwickeln sich langsam im menschlichen Rahmen, und die Welt pausiert auf höchstem menschlichem Expertenniveau, bevor sie 2040 absichtlich Superintelligenz aufbaut, durch Verifizierungsschemata und "gegenseitige garantierte Rechenzerstörung" durchgesetzt (Chinas Rechenzentren werden ausgerechnet in Kanada gebaut). Wir werden diskutieren, ob der Plan kohärent ist, ob er erreichbar ist, ob er überhaupt wünschenswert ist und was wir stattdessen tun würden.Das gesamte Szenario ist lang. Wenn du nicht alles lesen kannst (und es gibt viel zu lesen), lies die Hauptgeschichte bis 2030 sowie die Zusammenfassung und Scotts Einführung unten und schau, ob du zumindest die Hauptaussage von KI 2040 erfassen kannst. Ich habe die Hauptlektüre in 45 Minuten bis 1 Stunde lange Blöcke unterteilt, die du hier anmelden und einfordern kannst. Wenn das Blatt voll ist, teile einen Abschnitt mit jemandem.Anmeldung zum LesenLesungenZusätzliche Lesungen