Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

У сценария с благодарными потомками, разумеется, есть свои недоброжелатели. Они говорят, что у умных машин нет сознания (есть только искусственный интеллект), и поэтому считать их потомками мы не можем – об это подробнее поговорим в главе 8. Найдутся и такие религиозные люди, кто скажет, что у машин нет души и поэтому невозможно считать их потомками, что мы не должны пытаться создавать машины с сознанием, потому что это посягательство на прерогативы бога и искажение самой идеи жизни – подобные соображения уже высказывались в связи с клонированием человека. Жизнь людей рядом с роботами тоже может приводить к социальным проблемам. Например, семьи, где есть человеческий ребенок и ребенок-робот, могут чем-то напоминать нынешние семьи, где ребенок воспитывается одновременно со щенком. Но разница между ними очень скоро начинает чувствоваться: к щенку, из-за значительно уступающего интеллекта, отношение быстро меняется, и дело кончается поводком.

А с другой стороны, хотя сценарии победителей и благодарных потомков могут вызывать у нас совершенно разные чувства, по идее своей они очень схожи: единственная разница между последними поколениями людей будет заключаться только в том, как к ним будут относиться, что они сами будут думать о прожитых жизнях и что случится, когда они уйдут. Мы можем надеяться, что эти милые на вид дети-роботы в полной мере восприняли наши ценности и построят, наконец, то общество, о которым мы мечтали, только после нашей смерти, но можем ли мы быть уверенными в том, что они не пускают нам просто пыль в глаза? Что, если все это не более чем коварная игра, и они откладывают свои планы относительно производства скрепок до более удобного момента, чтобы дать нам умереть счастливыми? В конце концов, они ведь уже дурят нам головы просто тем, что, разговаривая с нами, возбуждают в нас любовь к себе, они уже дурят нам головы, и даже специально, умышленно, в поисках общего языка с нами прикидываются значительно более глупыми созданиями (в частности, общаясь с нами со скоростью, в миллиарды раз меньшей, чем та, на которую они способны, – этот сюжет исследовался в кинофильме Her ). Вообще говоря, построить равноправное общение двум существам с принципиально различными способностями и живущими на разных скоростях очень сложно. Нам известно, как легко разбудить наши человеческие чувства, и для сверхчеловечески умного AGI, каковы бы ни были его истинные цели, ничего не стоит обманом вынудить нас полюбить его и убедить нас в общности наших целей, как показано в фильме Ex Machina .

Возможны ли какие бы то ни было гарантии относительно будущего поведения искусственного интеллекта после нашего исчезновения, чтобы мы могли почувствовать себя успокоенными в случае сценария с благодарными потомками? Это как писать завещание потомкам, разъясняя, что им дозволяется делать с нашим коллективным наследством, с той только разницей, что здесь не будет никаких людей, которые могли бы оказать хоть какое-то давление. Мы еще вернемся к вопросу о воздействии на будущее поведение искусственного интеллекта в главе 7.

Даже если после нас останутся самые замечательные наследники, каких мы только можем себе вообразить, не становится ли как-то грустно от мысли, что людей не будет совсем? Если бы вы предпочли сохранить хоть каких-то людей, неважно в каком качестве, то мы приходим к сценарию зоопарка. Может быть, так будет лучше. Сверхчеловечески умный искусственный интеллект оставил некоторых людей, которым кажется, что с ними обращаются словно с животными в зоопарке, и от этого они время от времени жалуются на судьбу.

Зачем искусственному интеллекту может понадобиться такой зоопарк? Расходы на него в общей смете для искусственного интеллекта будут минимальны, и его резоны сохранить минимальную способную к размножению популяцию людей могут быть довольно близки к тем, которые заставляют нас держать в зоопарках находящихся под угрозой вымирания панд или в музеях вычислительной техники старые винтажные компьютеры – развлечься, рассматривая всякие диковины. Обратите внимание, что современные зоопарки проектируются так, чтобы развлечь посетителей, а вовсе не так, чтобы осчастливить панд. Так что ожидать в сценарии зоопарка возможностей для полной реализации человеческого потенциала не приходится.

Мы сейчас рассмотрели сценарии, где свободный сверхразум сосредоточен на трех различных уровнях пирамиды Маслова. В то время как бог-защитник устанавливает приоритеты на смыслы и цели, а благодетельный диктатор заботится об образовании и развлечениях, в сценарии зоопарка искусственный интеллект ограничивает свое внимание нижним уровнем: физиологические потребности, безопасность и минимальное жизненное пространство, какое только может сделать людей интересными для наблюдений.