Валерий Чумаков - Конец света - прогнозы и сценарии

Задача прогнозирования не может быть решена с помощью симуляций. Дело в том, что если в мире будет существовать более одного серьезного игрока, то ход событий станет зависеть не от поведения «овец» (масс), а от желаний и интересов «волков». У «волков» есть свои прогнозисты и свои симуляции (которые невозможно просимулировать — это как игра в шахматы).

Что касается примерного прогноза отдельных аспектов поведения людей или общества, то тут не нужно самосознание. Достаточно правильных алгоритмов. Псевдоразумный человек без личности (в философии их называют «философские зомби») может вести себя так же, как и обычный человек. Вот почему даже слабых этических запретов на виртуальные мучения разумных существ будет достаточно, чтобы использовать только зомби.

Разумеется, это не отменяет создания мыслящих и создающих существ внутри компьютера, но это показывает, что для массовки они вряд ли потребуются. С теми случаями, когда создается настоящая личность, можно разобраться отдельно. Проще всего дать личности право выхода на уровень выше.

Если мы даже на секунду предполагаем, что наш мир — не реален, то мы полностью лишаемся возможности судить о том, каков настоящий реальный мир. А раз так, то и судить о том, какие миры нормальные, а какие — нет, не стоит. Физики сейчас занимаются тем, чтобы вывести все богатство нашего мира из очень простых правил. Есть компьютерные модели образования вселенной, галактик, звезд, планет, жизни и т. д. Пока образование нашего мира выглядит вполне логично.

Можно ли по каким-то приметам определить, насколько реален наш мир? Для нас он единственно реален. Есть более глубокие проблемы, например, как быть с тем, что даже реальные личности виртуальны, потому что их жизнь может быть с исчерпывающей точностью описана очень большим, но конечным натуральным числом. Об этом очень хорошо написал Грег Эган в книге «Permutation city», показав, как живется математическим конструкциям.

Понимание своей виртуальности не отменяет причинно-следственных связей, присущих нашему миру. За действием следует воздаяние, в том числе и для виртуальных личностей: хорошо работаете — хорошо кушаете, даже если еда виртуальная. Симуляция предполагает определенные правила, поэтому вы можете их использовать для достижения собственных целей. Другое дело, что понимание виртуального характера всего и осознание возможности моделирования и модификации личности заставляет задуматься о произвольности любых целевых установок. Это гораздо более серьезная проблема. Ведь любые цели и ценности, которые могут быть у человека, одинаково хороши просто потому, что они одинаково реальны и возможны. Поэтому как объяснить лентяю, что лениться плохо, если у него в голове другая целевая функция? Для него лениться — хорошо, даже если он и голодает.

Весьма вероятно, что когда мы будем (или когда наши создатели начали, сколь бы маловероятно это ни было) создавать виртуальные миры, мы станем уважать достоинство каждой личности. Это значит, что такая личность будет в какой-то момент информирована о том, что она живет в симуляции, и ей будет предложен выбор (при жизни или после смерти) — оставаться в ней или подняться в реальный мир. Но в любом случае возможность такого перехода будет зависеть от воли создателей симуляции. Мы не можем знать, какие действия обрадуют всемогущих наблюдателей: перевести старушку через дорогу или толкнуть ее под машину, помочь однокласснику сделать уроки или подсадить его на героин; все зависит от того, кто нас создал и запустил — хороший мальчик или безумный социопат.

Так называемую теорему Судного дня (Doomsday argument) сформулировал в 1983 году астрофизик Брендон Картер (в честь него теорему иногда называют «катастрофой Картера»). Идея к тому времени уже носилась в воздухе, к ней почти одновременно пришел и другой ученый, профессор астрофизики из Принстона Ричард Готт. А несколько раньше до нее почти додумался австрийский физик, математик, один из отцов кибернетики Хейнц фон Фёрстер.

Приводить официальную формулировку теоремы вместе со всеми сопровождающими ее формулами я не буду. Это не совсем теорема, скорее — логические и вероятностные рассуждения, подкрепленные математической базой. Наиболее доходчиво их пересказал для неспециалистов профессор Оксфордского университета Ник Бостром. Я же постараюсь пересказать Бострома — еще более доходчиво и применительно к российским реалиям.