Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Искусственный интеллект создал большое число различных секторов отчасти потому, что еще своими конструкторами был научен ценить человеческое многообразие, существующее у нас сегодня. Но каждый сектор дарит своим обитателям больше счастья, чем нынешний уровень развития технологий может обеспечить где бы то ни было на Земле, потому что искусственный интеллект полностью устранил такие традиционные проблемы, как преступность и нищета. Люди в Гедонистическом секторе могут не бояться болезней, передаваемых половым путем (они были искоренены), похмелья или возникновения зависимостей (искусственный интеллект создал восстановительные медикаменты, не имеющие никакого негативного побочного действия). И действительно, ни в одном из секторов никто не боится никаких болезней, так как искусственный интеллект способен устранять любые возникающие проблемы с помощью нанотехнологии. Обитатель любого сектора наслаждается прелестями высокотехнологичной архитектуры, по сравнению с которыми бледнеет любое научно-фантастическое сочинение наших дней.

Подводя итог, мы можем видеть, что хотя многие черты и либертарианской утопии, и утопии благодетельного диктатора сходны (наличие сверхразумного искусственного интеллекта и создаваемого им богатства), они сильно различаются в том, что касается источника верховной власти и социально значимых целей. В либертарианской утопии что делать с технологиями и собственностью решают те, кому они принадлежат, а в настоящем сценарии безграничная власть принадлежит авторитарному искусственному интеллекту, который устанавливает и конечную цель – превращение Земли в развлекательный круизный лайнер, где действует принцип “все включено” и есть много увеселительных программ на любой вкус. Так как искусственный интеллект предоставляет людям право свободно выбирать любой из множества альтернативных путей к счастью и заботиться о полном удовлетворении своих материальных потребностей, то если кто-то и страдает, так исключительно по собственному желанию.

Хотя благодетельная диктатура благоприятствует позитивным переживаниям и освобождает людей от страданий, многие из них, тем не менее, чувствуют, что есть вещи, которые могли быть и получше. Прежде всего, некоторые люди хотели бы оказывать большее влияние и на развитие человеческого общества, и на определение его судьбы, но держат свои желания при себе, так как выражать их перед лицом всесильной машины, правящей всем на свете, было бы самоубийством. В некоторых группах людей хотели бы получить право заводить как угодно много детей, но искусственный интеллект очень настойчиво проводит политику регулирования численности населения планеты путем контроля над рождаемостью. Любителей оружия бесит запрет разрабатывать собственные системы и испытывать их, а некоторым ученым хотелось бы проводить собственные исследования в области искусственного интеллекта. Многие люди испытывают психологический дискомфорт из-за правил, установленных в соседних секторах, и беспокоятся, что их дети могут со временем выбрать их для своего проживания. Поэтому они хотели бы, чтобы их моральный кодекс стал обязательным повсюду.

С течением времени все большее число людей попадает в те сектора, где искусственный интеллект обеспечивает их наиболее желаемыми переживаниями. В отличие от традиционного представления о небесах, где каждый получает что заслужил, здесь, как на “новых небесах” из романа Джулиана Барнса 1989 года History of the World in 10 ½ Chapters (а также эпизода A Nice Place to Visit из Twilight Zone 1960 года), каждый получает чего желал. Парадокс, однако, заключается в том, что люди не перестают жаловаться даже тогда, когда получают желаемое. В романе Барнса герой целую вечность утоляет всевозможные свои желания, от обжорства и гольфа до секса со знаменитостями, но все равно впадает в хандру и просит об аннигиляции. Благодетельная диктатура обрекает людей на подобную судьбу, с жизнью, посвященной развлечениям, но предельно бессмысленной. Хотя люди могут заполнить свою жизнь целями-заменителями – от повторения уже проделанного пути в поисках уже сделанного открытия до лазанья по горам, – всем хорошо известно: что бы они ни делали, это не более чем развлечение. Никакого реального смысла нет ни в науке, ни в чем-либо другом, потому что искусственный интеллект все уже открыл и сделал заранее. Нет никакого смысла и в попытках какого-либо улучшения жизни: если оно возможно, достаточно просто попросить об этом искусственный интеллект.