Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Когда-нибудь роботы захватят весь мир. Антиутопические варианты меня беспокоят не так сильно, как возможное появление машин, создающих искусство. Искусство — это то, что, по-видимому, отличает людей от прочих тварей. Это то, что позволяет нам так гордиться собой. При всех мерзостях, встречающихся в истории человечества, по крайней мере, мы написали несколько действительно хороших пьес и песен, изваяли кое-какие сто́ящие скульптуры. Если человеческие существа больше не будут нужны для того, чтобы создавать искусство, то на кой черт они вообще будут нужны?

И все же стоит ли мне расстраиваться? Почему мир, в котором появится больше великих произведений искусства, должен обязательно стать хуже? Может, и не станет. Но эта мысль все равно меня печалит. Хоть я и считаю себя непримиримым материалистом, наверное, и у меня есть некая предательская надежда на дуализм тела и духа. Я хочу верить в то, что эволюционирующих по определенному плану алгоритмов и грубой вычислительной мощности недостаточно и что творчество всегда останется загадочным и магическим процессом или, по крайней мере, настолько сложным, что его нельзя будет механически скопировать.

Конечно, машины могут нас перевычислять и перегнать. Очень скоро они с легкостью будут проходить тест Тьюринга. Но кому какое дело? Пусть они делают всю свою сложную работу. Пусть они общаются, болтают. Но когда машины смогут писать картины и музыку лучше, чем мы, и когда их истории станут более захватывающими и трогательными, чем наши, нельзя уже будет отрицать того, что и мы сами — всего лишь мыслящие и создающие искусство машины, к тому же морально и физически устаревшие.

Сторонники искусственного интеллекта склонны представлять себе утопическое будущее, в котором добродушные компьютеры и роботы будут служить человечеству и дадут нам возможность достичь неограниченного благосостояния, покончить с бедностью и голодом, победить болезни и смерть, достичь бессмертия, колонизировать Галактику, а когда-нибудь даже покорить всю Вселенную и достичь точки Омега [53] Согласно философу и теологу Пьеру Тейяру де Шардену, это состояние максимальной сложности, организованности и сознания, к которому стремится Вселенная. — Прим. ред. , где мы станем богом — всеведущим и всемогущим. Скептики видят антиутопическое будущее, в котором злобные компьютеры и роботы нас всех завоюют, сделав своими рабами, или же станут нас подавлять и тем самым остановят или даже повернут вспять научный и технический прогресс.

Большая часть таких пророчеств основана на ложной аналогии между сущностью человека и компьютера (или природного и искусственного интеллекта). Мы — мыслящие машины, результат естественного отбора, которым в нас также заложены эмоции, позволяющие экономить мыслительные усилия. Нам не нужно вычислять энергетическую ценность пищи — мы просто чувствуем, что голодны, и едим. Нам не нужно вычислять пропорциональность талии по отношению к бедрам или плеч по отношению к талии, когда мы смотрим на потенциальных партнеров, — мы просто чувствуем влечение к человеку и вступаем с ним в связь. Нам не нужно разбираться в генетических рисках воспитания чужого потомства, если наш партнер нам изменяет, — мы просто чувствуем ревность. Нам не нужно оценивать вредоносное воздействие неравноценного обмена — мы просто чувствуем несправедливость и желаем отомстить. Все эти эмоции встроены в нашу сущность эволюцией; ни одна из ник не встроена в компьютеры. Потому страх того, что компьютеры станут злодеями, безоснователен, так как им никогда в голову не придет предпринимать против нас подобные действия.

Кроме того, и утопическое, и антиутопическое ви́дение искусственного интеллекта основывается на такой проекции будущего, примеров которой в нашей истории никогда не было. Вместо утопии или антиутопии следует думать о протопии — термин придумал футуролог Кевин Келли, который описывает его в своем выступлении на Edge следующим образом: «Я называю себя протопистом, а не утопистом. Я верю в постоянство прогресса, при котором каждый год лучше предыдущего, но это не очень значительные, а микроскопические улучшения» {7} 7 Kevin Kelly, «The Technium», Edge, entry February 3, 2014, https://edge.org/conversation/the-technium . [Кевин Келли. Техниум] . Практически весь прогресс в науке и технологии, включая компьютеры и искусственный интеллект, имеет протопическую природу. Редко случается так, если вообще случается, что технологии приводят к возникновению утопического или антиутопического будущего.