Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

• Если группа людей справится с управлением этим интеллектуальным взрывом, то эти люди смогут за несколько лет взять в свои руки власть над всем миром.

• Если люди не будут контролировать интеллектуальный взрыв, то искусственный интеллект сможет еще быстрее взять весь мир под свой контроль.

• В то время как быстро развивающийся интеллектуальный взрыв может привести к власти над миром одной-единственной державы, медленно развивающийся взрыв, растянувшись на годы или десятилетия, с большей вероятностью приведет к реализации многополярного сценария, предполагающего достижение равновесия в распределении сил между большим числом достаточно независимых сущностей.

• История жизни показывает ее склонность к самоорганизации во все более усложняющиеся иерархические структуры, формируемые под влиянием сотрудничества, состязания и управления. Сверхразум, вероятно, сможет распространить координацию до немыслимых доныне космических масштабов, однако сейчас невозможно сказать, приведет ли это к тоталитарной власти, упорядоченной сверху донизу, или, напротив, это откроет путь для реализации индивидуальных возможностей.

• И создание киборгов, и заливка человеческого разума в машинную память вполне правдоподобны, но, похоже, ни то, ни другое не обеспечивает скорейшего прогресса для машинного интеллекта.

• Наш нынешний энтузиазм в создании искусственного интеллекта может привести нас и в точку наивысшего развития, и в точку глубочайшего падения относительно всей предшествующей истории человечества. Широчайший спектр возможностей мы обсудим в следующей главе.

• Нам пора начать думать о том, какой итог мы бы предпочли, и о том, как можно направить к нему наше движение, потому что, не зная, чего мы хотим, мы вряд ли это получим.

Гонка за AGI началась, и пока у нас нет никаких представлений о том, как она будет проходить. Но это не означает, что мы не должны уже сейчас подумать, какого завершения мы бы хотели, потому что от наших желаний зависит то, к чему мы приходим. Что бы лично вы предпочли и почему?

1. Вы бы хотели, чтобы суперинтеллект был создан?

2. Вы бы хотели, чтобы человеческие существа оставались / были заменены кем-то другим, превратились бы в киборгов и/или переселились в виртуальный мир / были симулированы?

3. Вы бы предпочли власть людей или власть машин?

4. Вы бы хотели, чтобы искусственный интеллект обладал сознанием?

5. Вы стремитесь максимизировать положительные переживания, минимизировать страдания, не хотите вмешиваться в судьбу?

6. Вы бы хотели, чтобы жизнь распространялась в космосе?

7. Вы бы хотели, чтобы цивилизация устремилась к реализации великих целей, которым вы симпатизируете, или вы согласны с любыми будущими формами жизни, обеспечивающими благополучие, даже если цели при этом представляются вам бессмысленно банальными?

Для того чтобы подтолкнуть ваши размышления и подогреть дискуссию, давайте рассмотрим ряд возможных ответов, собранных в табл. 5.1.

Таблица 5.1

Сценарии жизни с искусственным интеллектом

Очевидно, это не исчерпывающий список, я использовал его в качестве базиса пространства всех возможностей. Понятно, что нам не хотелось бы закончить свою историю как в плохо проведенной компьютерной игре из-за ошибок в планировании. Я предлагаю вам выписать ваши варианты ответов на вопросы 1–7, чтобы вернуться к ним по прочтении этой главы, и проверить, не изменятся ли они. Вы можете делать это прямо на сайте http://AgeOfAi.org, где заодно можете сравнить свои ответы с ответами других читателей.