ИИ 2040: План А

Давайте соберемся и обсудим ИИ 2040: План А, новый сценарий от проекта ИИ Футуры (команда, стоящая за ИИ 2027). В отличие от ИИ 2027, это рекомендация, а не предсказание: международное соглашение, в котором США и Китай соглашаются в 2029 году избегать гонки за суперинтеллектом, все исследования ИИ становятся публично прозрачными, возможности развиваются медленно в пределах человеческого диапазона, и мир останавливается на уровне высших человеческих экспертов перед тем, как сознательно построить суперинтеллект в 2040 году, обеспечиваемом схемами верификации и "взаимно гарантированным вычислительным разрушением" (датacenters Китая строятся в Канаде, из всех мест). Мы обсудим, является ли план последовательным, достижимым, даже желаемым, и что мы бы сделали вместо этого.Полный сценарий длинный. Если вы не можете прочитать всю статью (а там много читать), прочитайте основную нарративу до 2030 года, плюс краткое содержание и введение Скотта ниже, и посмотрите, сможете ли вы хотя бы уловить основную суть ИИ 2040. Я разделил основное чтение на блоки по 45 минут - 1 час, к которым вы можете подписаться и получить здесь. Если таблица заполнена, поделитесь секцией с кем-то.Запись на чтениеЧтенияДополнительные чтения