Эми Уэбб - Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе

В 1560 году испанский часовщик Хуанело Турриано создал небольшую фигурку механического монаха в качестве дара церкви от лица испанского короля Филиппа II, сын которого чудесным образом исцелился после травмы головы [13] Elizabeth King, “Clockwork Prayer: A Sixteenth-Century Mechanical Monk,” Blackbird 1, no. 1 (Spring 2002), https://blackbird.vcu.edu/v1n1/ nonfiction/king_e/prayer_introduction.htm. . Монах умел делать удивительные вещи: ходил по столу, поднимал крест и четки, бил себя в грудь в знак покаяния и безмолвно шевелил губами в молитве. Это был первый автоматон – механическое подобие живого существа. Слова «робот» еще не существовало, но механический монах был изумительным изобретением, которое наверняка потрясало и пугало зрителей. Вероятно, никому не приходило в голову, что маленький автоматон когда-нибудь сможет не только повторять основные человеческие движения, но заменять человека в заводских цехах, научных лабораториях и кухонных разговорах. Маленький монах вдохновил первое поколение робототехников, чья задача заключалась в том, чтобы создать машины более сложные, чем подражающие человеческим движениям: автоматы вскоре научились писать, танцевать, рисовать. В результате некоторые философы стали задумываться над вопросом, что значит быть человеком. Если можно построить автомат, подражающий поведению человека, не являются ли люди автоматами, созданными божеством? Или мы представляем собой сложные системы, способные к рассуждению и созданию оригинальных идей?

Английский политический философ Томас Гоббс описывал человеческое рассуждение как вычисление в трактате «О теле» ( De Corpore) , входящем в состав его великой трилогии, посвященной естественным наукам, психологии и политике. В 1655 году он писал: «Через рассуждения я понимаю вычисление. А вычислять означает находить сумму многих вещей, складываемых одновременно, или знать разность, когда одна вещь отнимается от другой. Рассуждать, таким образом, то же самое, что складывать или вычитать» [14] “AMA: We Are the Google Brain Team. We’d Love to Answer Your Questions about Machine Learning,” Reddit, August 4, 2016, https://www. reddit.com/r/MachineLearning/comments/4w6tsv/ama_we_are_the_ google_brain_team_wed_love_to/. . Но как нам узнать, обладаем ли мы при этом свободной волей?

В то время, когда Гоббс работал над первой частью своей трилогии, французский философ Рене Декарт опубликовал книгу «Размышления о первой философии», в которой задавался вопросом, как мы можем знать наверняка, что данный нам в ощущениях мир реален. Как можем мы проверить собственное сознание? Какое доказательство могло бы убедить нас, что наши мысли действительно принадлежат нам, а мир вокруг нас реален? Декарт был рационалистом, верившим, что факты могут быть получены путем дедукции. Он предложил знаменитый мысленный эксперимент. Он предложил читателям представить себе демона, якобы создающего иллюзию окружающего нас мира. Если бы физический, чувственный опыт читательницы, сообщающий ей, что она плавает в озере, был бы всего лишь наведен демоном, она не могла бы действительно знать , что плавает. Но с точки зрения Декарта, если читатель осознает свое существование, значит, он отвечает критериям знания. «Всякий раз, как я произношу слова Я есмь, я существую или воспринимаю это изречение умом, оно по необходимости будет истинным» [15] Декарт Р. Сочинения в 2 томах. Т. 1. М., Мысль, 1989. Цит. по: https://nibiryukov.mgimo.ru/nb_russian/nbr_teaching/nbr_teach_library/nbr_library_classics/nbr_classics_descartes_meditationes_de_prima_ philosophia.htm. Пример с читательницей, плавающей в озере, добавлен автором. – Прим. пер. , – писал он [16] René Descartes, Meditations on First Philosophy, Second Meditation § 25, 1641, University of Connecticut, http://selfpace.uconn.edu/class/percep/ DescartesMeditations.pdf. . Другими словами, факт нашего существования не подлежит сомнению, даже если между нами и реальностью находится вводящий нас в заблуждение демон. Или же «я мыслю, следовательно, существую».

Позже в своем «Трактате о человеке» Декарт утверждал, что люди, вероятно, могли бы изготовить автомат в виде небольшого животного, который был бы неотличим от своего прототипа. Но даже если когда-нибудь нам удалось бы создать механического человека, его никогда нельзя будет спутать с настоящим, утверждал Декарт, поскольку у него не будет разума и, следовательно, души. В отличие от людей, машина никогда не сможет соответствовать критериям знания – она никогда не сможет осознавать себя, как это делаем мы. Для Декарта сознание находилось внутри нас – душа была духом, оживляющим машину нашего тела [17] René Descartes, Treatise of Man, trans. T. S. Hall (Cambridge, MA: Harvard University Press, 1972). .