Джон Маркофф - Homo Roboticus? Люди и машины в поисках взаимопонимания

Когда Роберт Джераси, профессор религиоведения Манхэттенского колледжа и автор книги «Апокалиптический искусственный интеллект: Представление о рае в робототехнике, искусственном интеллекте и виртуальной реальности» (Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality, 2010), приехал в Питтсбург с целью исследований, Моравек уклонился от встречи с ним, сославшись на занятость в новом проекте. Джераси – один из авторов, изображавших Моравека наряду с Рэем Курцвейлом интеллектуальным сооснователем техно-религиозного движения, считающего, что человечество неизбежно будет ассимилировано искусственным интеллектом и роботами, которых мы сейчас создаем. В 2014 г. это движение получило широкую известность, когда такие видные представители технологического и научного мира, как Илон Маск и Стивен Хокинг, выступили с предупреждениями о потенциальной угрозе, которую несут людям футуристические системы искусственного интеллекта.

По словам Джераси, целое поколение компьютерщиков, оценивая последствия своих изобретений, вместо того чтобы отходить от религиозности западного общества, возвращаются к ней. «В конечном итоге апокалиптические предсказания последствий развития искусственного интеллекта практически не отходят от апокалиптических традиций иудаизма и христианства. Если они окажутся правильными, мир вновь станет обителью магии», – писал Джераси {105}. С точки зрения профессора религиоведения, это движение можно было свести к концепции отчуждения, под которым он понимал главным образом преодоление страха смерти.

Концепция отчуждения Джераси – не просто уход из общества в стиле Джеймса Дина [11]в 1950-х гг. Моравек, однако, не ассоциируется с абстрактной концепцией страха смерти. Пионер робототехники стал легендой, когда жил в мансарде SAIL в 1970-х гг. В те времена лаборатория была идеальным миром контркультуры для первого поколения компьютерных фанатиков, обнаруживших, что машины, к которым они имели привилегированный доступ, можно превратить в «усилители фантазий».

В 1970-е гг. Маккарти все еще верил, что до появления искусственного интеллекта рукой подать даже при тогдашних скромных вычислительных возможностях. По его выражению, для создания работоспособного искусственного интеллекта нужны «1,8 Эйнштейна и десятая часть ресурсов Манхэттенского проекта» {106}. Моравек в своих ожиданиях исходил из ускорения эволюции вычислительной техники. Он быстро схватил суть закона Мура – идею, что со временем мощность компьютеров будет возрастать экспоненциально, и дополнил ее логичным, на его взгляд, заключением: появление машинного интеллекта неизбежно и произойдет сравнительно скоро. Препятствия, которые предстояло преодолеть для этого, он обобщил в конце 1970-х гг. так:

Из-за недостаточной эффективности нынешних компьютеров сложнее всего автоматизации поддаются функции, которые для людей совершенно естественны: зрение, слух, аргументированное суждение. Основная причина этого стала для меня очевидна в процессе работы над машинным зрением. Дело просто в том, что наши компьютеры пока еще действуют в сотни тысяч, миллионы раз медленнее специализированных отделов нервной системы человека. Это огромное несоответствие не дает нам двигаться, создавая проблемы на пустом месте, затрудняя до невозможности все остальное и заставляя заниматься совсем не тем, чем нужно {107}.

Впервые Моравек обозначил свое несогласие с Маккарти в 1975 г. в отчете SAIL «Значение вычислительной мощности для интеллекта» {108}. Это был манифест, который укрепил его веру в экспоненциальный рост вычислительной мощности и одновременно убедил в том, что текущие ограничения временны. Урок, который он рано усвоил и к которому не раз возвращался на протяжении своей карьеры, заключался в том, что, если вы как разработчик искусственного интеллекта зашли в тупик, подождите с десяток лет и проблемы решатся в результате неотвратимого роста производительности компьютеров. В статье 1978 г. для научно-фантастического журнала Analog Моравек представил свои аргументы широкой публике. В действительности в ней по-прежнему просматривалась унаследованная от Маккарти вера в то, что машины превзойдут человека по интеллекту примерно за десятилетие. «Допустим, мои прогнозы правильны и технические возможности достижения равенства с человеком будут доступны через 10 лет по цене нынешнего среднего компьютера, – писал он. – Что дальше?» {109}Ответ был очевиден. Люди останутся далеко позади нового вида, которому мы помогаем развиваться.