Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Земные империи обычно принуждали свои провинции к сотрудничеству с помощью кнута и пряника. Хотя подданные Римской империи ценили технологии, инфраструктуру и покровительство, которые они получали в качестве награды за свое сотрудничество, они также боялись неизбежных последствий за проявления непокорности или за неуплату налогов. Из-за того что войска из Рима в отдаленные провинции добирались долго, необходимое возмездие отчасти делегировалось местной власти и ее войскам, уполномоченным осуществлять наказание практически мгновенно. Сверхразумный хаб может использовать аналогичную стратегию и разворачивать сеть верной себе гвардии по всей своей космической империи. Поскольку управление сверхразумными подданными может оказаться нелегким, простейшая жизнеспособная стратегия заключается в том, чтобы использовать AI-гвардию из относительно тупых, но запрограммированных на 100-процентную лояльность машин, находящихся в режиме постоянного мониторинга за соблюдением всех правил при условии их автоматического подрыва при малейшем нарушении.

Предположим, например, что искусственный интеллект хаба формирует белый карлик так, чтобы он расположился у края цивилизации размером с Солнечную систему, от которой он требует подчинения. Белый карлик – это выгоревшие останки умеренно тяжелой звезды. Он состоит в основном из углерода и напоминает гигантский алмаз в небе. Он настолько компактен, что может весить больше, чем Солнце, уступая Земле по размеру. Известный индийский физик Субраманьян Чандрасекхар доказал, что если вы постепенно увеличиваете массу белого карлика, то при достижении определенного предела, известного как предел Чандрасекхара и составляющего около 1,4 массы Солнца, в белом карлике случится термоядерный катаклизм и он превратится в сверхновую типа 1A. Если искусственный интеллект хаба бессердечно формирует белый карлик очень близким к пределу Чандрасекхара, то AI-гвардия может быть эффективной, даже будучи чрезвычайно тупой (а в действительности как раз именно в силу своей тупости): ей достаточно просто быть запрограммированной на проверку поступления от покоренной цивилизации ежемесячной квоты космических биткойнов, математических доказательств или какой-либо иной формы налогов, чтобы в том случае, если это не было сделано, добавить белому карлику немного массы, запустить сверхновую и разнести всю непокорную цивилизацию в пух и перья.

Цивилизацию галактического размера можно контролировать аналогичным образом, если расположить большое количество компактных объектов на низких орбитах вокруг гигантской черной дыры в центре галактики и угрожать превратить эти объекты в газ, например сталкивая их друг с другом. Этот газ начнет падать в черную дыру, превращая ее в мощный квазар, из-за чего бо2льшая часть галактики станет необитаемой.

Подводя итог, можно сказать, что для сотрудничества на космических расстояниях будущая жизнь располагает сильными стимулами, но отнюдь не ясно, будут ли главной действующей силой такого сотрудничества соображения взаимной выгоды или жесткие угрозы – ограничения, налагаемые законами физики, совместимы с обоими сценариями, так что результат будет зависеть от превалирующих целей и ценностей. Мы будем исследовать нашу способность повлиять на эти цели и ценности будущей жизни в главе 7.

До сих пор мы рассматривали сценарии, когда будущая жизнь расширяется в космическом пространстве из единого центра интеллектуального взрыва. Но что случится, если жизнь эволюционирует независимо более чем в одном месте и две расширяющиеся цивилизации встретятся?

Если рассмотреть случайно выбранную планетную систему, то есть ненулевая вероятность, что на одной из ее планет возникнет жизнь, которая будет развивать передовые технологии и со временем выйдет в космос. Мы полагаем, что эта вероятность больше нуля, потому что технологически развитая жизнь возникла здесь, в нашей Солнечной системе, и законы физики, по-видимому, допускают ее существование в космосе. Если космическое пространство достаточно велико (а теория космологической инфляции предполагает, что оно огромно, а может быть, и бесконечно), то таких вышедших в космос цивилизаций должно быть много, как показано на рис. 6.10. В статье Джея Олсона, о которой шла речь выше, содержится элегантный анализ таких расширяющихся в космос биосфер, и Тоби Орд вместе с коллегами из Института будущего человечества также провел аналогичный анализ. Если рассматривать эти расширяющиеся в космосе биосферы в трех измерениях, то они окажутся сферами в буквальном смысле, поскольку цивилизации расширяются с одной и той же скоростью во всех направлениях. В пространственно-временных координатах они выглядят как верхняя часть бокала для шампанского (см. рис. 6.7), потому что тёмная энергия создает непреодолимый предел числу галактик, которого данная цивилизация когда-либо сможет достичь.