Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Некоторые люди говорят мне, что причинность их унижает, что она лишает смысла их мыслительные процессы и превращает их “просто” в машины. Я нахожу эти жалобы необоснованными и абсурдными. Во-первых, нет ничего “простого” в человеческом мозге, который, насколько я могу судить, представляет собой наиболее сложный тип физического объекта в нашей Вселенной. Во-вторых, какие альтернативы они бы предпочли? Неужели они хотят, чтобы решения принимались их собственными мыслительными процессами (вычислениями, выполняемыми в их мозгу)? Их субъективное ощущение свободы воли – это именно то, как их вычисления ощущаются изнутри: они не знают результата вычислений до тех пор, пока вычисление не завершено. То есть это то же самое, что сказать: вычисление и есть решение.

Давайте вернемся к исходной точке этой книги: каким бы вы хотели видеть будущее жизни? В предыдущей главе вы рассмотрели, как различные культуры по всему миру стремятся к будущему полному положительных ощущений, но в поисках определения, что же считать положительным и как согласовать все то, что было бы полезно для разных форм жизни, возникают жесточайшие споры. Давайте же не позволим всем этим спорам отвлекать нас от слона в комнате: не может быть никаких положительных ощущений, когда нет никаких ощущений вовсе, то есть когда нет никакого сознания. Другими словами, без сознания не будет ни счастья, ни добра, ни красоты, ни смысла или цели – только пропащее астрономическое пространство. А значит, когда люди спрашивают о смысле жизни так, словно это дело космоса – сообщать смысл нашему существованию, они выворачивают суть наизнанку: не наша Вселенная сообщает смысл сознательным существам, но сознательные существа сообщают смысл нашей Вселенной. А значит, первым пунктом в нашем списке благих пожеланий на будущее должно стоять сохранение (а по возможности и расширение) биологического и/или искусственного сознания в нашем космосе, а не борьба за его истребление.

Если мы преуспеем в этом деле, то как мы, люди, будем чувствовать себя в условиях сосуществования со все более умными машинами? Прогресс искусственного интеллекта, представляющийся неумолимым, беспокоит ли он вас, и если да, то почему? В главе 3 мы видели, как относительно легко может вооруженная искусственным интеллектом технология удовлетворить большинство базовых нужд, касающихся дохода и безопасности, при наличии на то политической воли. Однако быть хорошо накормленным и одетым, иметь уютное жилище и возможность предаваться развлечениям – это еще не все. Если нам будет гарантировано, что искусственный интеллект позаботится обо всех наших практических нуждах и пожеланиях, не будем ли мы, тем не менее, страдать от отсутствия смысла и цели в нашей жизни, как ухоженные животные в зоопарке?

Для нас, людей, типично исходить в своей самооценке из идеи человеческой исключительности , из представления о том, что мы – самые умные существа на планете и оттого уникальные и превосходные. Появление искусственного интеллекта вынудит нас отказаться от этой мысли и стать поскромнее. Но, наверное, нам придется это сделать в любом случае: в конце концов, высокомерная уверенность в своем превосходстве над другими (личностями, этническими группами, биологическими видами) уже приводила к ужасным проблемам в прошлом, и пришла пора от нее отказаться. В самом деле, идея человеческой исключительности не только становилась причиной бед, но и кажется совершенно ненужной для процветания: если нам суждено открыть мирную внеземную цивилизацию, далеко превзошедшую нас в науках, искусствах и во всем остальном, что для нас важно, это, наверное, не сможет помешать людям продолжать находить в своих жизнях смысл и ставить перед собой цели. Мы можем сохранять верность своим семьям, друзьям и более многочисленным сообществам и продолжать заниматься всеми теми делами, которыми считали нужным и важным заниматься и раньше, не потеряв ничего, кроме своей заносчивости.

Планируя наше будущее, давайте подумаем о смысле не только для своих жизней, но и для самой Вселенной. В этом отношении два моих любимых физика, Стивен Вайнберг и Фримен Дайсон, представляют два диаметрально противоположных взгляда. Стало знаменитым высказывание Вайнберга, удостоенного Нобелевской премии за важнейший вклад в создание стандартной модели элементарных частиц: “Чем лучше мы понимаем Вселенную, тем бессмысленнее она кажется” {130} 130 См. Dreams of a Final Theory: The Search for the Fundamental Laws of Nature (см. рус. пер.: Вайнберг С. Мечты об окончательной теории: физика в поисках самых фундаментальных законов природы / пер. с англ. А. В. Берков. М.: УРСС, 2004. – Прим. перев. ). . Дайсон, со своей стороны, гораздо оптимистичнее, как мы могли убедиться в главе 6: хотя он тоже считает, что Вселенная была бессмысленной, она стала все больше и больше наполняться смыслом с возникновением жизни, но вершина осмысленности все еще впереди – когда жизнь сможет распространиться в космосе. Он закончил свою программную статью 1979 года так: “Какая из Вселенных, моя или Вайнберга, ближе к истине? Когда-нибудь, и не так уж не скоро, мы узнаем” {131} 131 См. сн. 91. . Если когда-нибудь наша Вселенная навсегда вернется к своему бессознательному состоянию из-за того, что мы истребим жизнь на Земле, или из-за того, что мы позволим бессознательным зомби с искусственным интеллектом захватить нашу Вселенную, то Вайнберг возьмет верх окончательно и бесповоротно.