Дэвид Дойч - Начало бесконечности. Объяснения, которые меняют мир

Аргументом о симуляции поднимается и еще один вопрос: будут ли Вселенную, как мы ее знаем, в будущем действительно симулировать часто? Не аморально ли это? Мир в том виде, в котором он сегодня существует, содержит слишком много страданий, и кто бы ни запускал эту симуляцию, на его совести будет воссоздание всего этого. Или не будет? Являются ли два идентичных экземпляра квалиа тем же самым, что и один? Если это так, то создание симуляции не будет безнравственным, не больше чем безнравственно чтение книги о том, как кто-то страдал в прошлом. Но в таком случае насколько должны отличаться две симуляции человека, чтобы их можно было в нравственных целях начать считать двумя людьми? И снова мне не известно ни одного хорошего ответа на эти вопросы. Я подозреваю, что на них позволит ответить только объяснительная теория, из которой также будет следовать искусственный интеллект.

А вот связанный с этим, но более сильный нравственный вопрос. Возьмем мощный компьютер и с помощью квантового генератора случайных чисел присвоим каждому биту случайным образом значение 0 или 1. (Это означает, что 0 и 1 возникают в историях с равной мерой.) В этот момент все возможное содержимое памяти компьютера существует в мультивселенной. Поэтому с необходимостью должны присутствовать истории, в которых в компьютере содержится программа, реализующая искусственный интеллект, – а на самом деле все такие возможные программы во всех возможных состояниях, вплоть до размера, который может поместиться в памяти компьютера. Некоторые из них являются достаточно точным представлением вас, живущих в среде виртуальной реальности, которая грубо напоминает ваше реальное окружение. (У современных компьютеров не хватает памяти для того, чтобы точно смоделировать реалистичную окружающую среду, но, как я говорил в главе 7, я уверен, что этой памяти больше чем достаточно, чтобы смоделировать человека.) Там также есть люди, страдающие, как это только возможно. Итак, вопрос заключается в том, будет ли неправильным включить компьютер и сделать так, что он будет выполнять все эти программы одновременно в разных вариантах истории? Будет ли это самым ужасным преступлением в истории человечества? Или это просто не рекомендуется делать, потому что общая мера всех историй, в которых есть страдание, очень мала? Или это безобидно и тривиально?

Еще более сомнительный пример рассуждения антропного типа – это аргумент Судного дня . В нем ожидаемая продолжительность жизни нашего вида оценивается в предположении, что среднестатистический человек стоит, грубо говоря, где-то в середине ряда всех людей. Значит, следует ожидать, что общее число тех, кто когда-либо будет жить, примерно в два раза больше числа тех, кто уже жил. Конечно, это пророчество и уже только по этой причине, наверно, не может быть веским аргументом, но я попробую вкратце рассмотреть его в его же собственных понятиях. Во-первых, его вообще нельзя применять, если общее число людей будет бесконечным, ведь в таком случае каждый, кто жил, будет стоять необычайно близко к началу этого ряда. Таким образом, если уж на то пошло, этот аргумент предполагает, что мы стоим у начала бесконечности.

Кроме того, сколько живет человек? Вскоре – в течение нескольких поколений – мы избавимся от болезней и старения, а технологии смогут предотвращать смерть в результате убийства или от несчастных случаев за счет создания резервных копий состояний мозга, которые можно будет загружать в новый, чистый мозг идентичного тела, если человек умрет. Как только такая технология будет доступна, люди будут считать, что не создавать резервные копии себя часто – гораздо глупее, чем сейчас не создавать резервные копии компьютерных дисков. Эволюции уже будет достаточно, чтобы гарантировать это, потому что те, кто не делает резервных копий себя, постепенно вымрут. Поэтому может быть только один исход: фактическое бессмертие всей популяции человека, причем теперешнее поколение – одно из последних, у которого будут короткие жизни. В таком случае если у нашего вида тем не менее будет конечная продолжительность жизни, то знание, сколько всего будет жить людей, никак не ограничит эту продолжительность сверху, потому что оно не может сказать нам, как долго потенциально бессмертные люди будущего успеют прожить до наступления предсказанной катастрофы.

В 1993 году математик Вернор Виндж написал важное эссе под названием «Технологическая сингулярность» (The Coming Technological Singularity), в котором он оценил, что где-то в течение тридцати лет предсказать будущее технологий станет невозможно – это событие теперь называют просто сингулярностью. Виндж связывал приближающуюся сингулярность с реализацией искусственного интеллекта, и последующее обсуждение строилось на этом. Безусловно, я надеюсь , что к тому времени искусственный интеллект будет реализован, но пока ничто не указывает на теоретический прогресс, который, как я считаю, должен появиться прежде. С другой стороны, я не вижу причины выделять искусственный интеллект как ломающую стереотипы технологию: у нас уже есть миллиарды людей.