Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Понять, как на это реагирует планета, чтобы соответствующим образом поменять свое поведение, — сложная задача, решение которое затрудняется колоссальной нехваткой информации. Изменение климата, доступность воды, использование ресурсов океана, взаимодействие между экосистемами и сформированной человеком средой обитания — во всех этих вопросах наших вычислительных средств не хватает для предварительного анализа статистики, необходимого, чтобы понять, что же происходит, обработать экспоненциально возрастающие объемы данных о мире, который мы населяем, сформулировать и проверить теории о том, как мы могли бы делать привычные вещи иначе.

У нас на этой планете уже почти 7 миллиардов мыслящих машин, но они не слишком озабочены вопросами о том, как на ней удержаться. Лишь немногие могут увидеть всю картину и понять ее, и еще меньше тех, кто способен как-то повлиять на ситуацию. Приращение когнитивных возможностей, которые помогли бы выяснить, как нам фундаментальным образом изменить свои отношения с планетой, — это проблема, над которой стоит подумать.

Программа поиска внеземного разума (SETI) — это общее название распределенных по всему миру проектов, людей и институтов, занятых обнаружением признаков разумной жизни в космосе. Методы SETI в основном связаны со сканированием пространства в поисках электромагнитных излучений — предполагаемого «выхлопа» цивилизаций, обладающих развитыми технологиями.

Как и стремление построить разумные машины, поиск разумных пришельцев строится на определенных предположениях о том, что такое «разум» и что такое «пришельцы». SETI предполагает, что внеземная жизнь считается разумной, если соответствует человеческим научно-фантастическим ожиданиям относительно разумности: это должны быть животноподобные существа, у которых есть средства связи, космические корабли и т. п.

Критики SETI иногда прибегают к тому, что называется возражениями против униформитарианизма. Униформитарианизм — это допущение, что в любой точке пространства и времени действуют одни и те же условия и законы. SETI исходит из него, поскольку предполагает, что внеземной разум будет таким же, как человеческий (только, конечно, умнее). Но есть не меньше оснований думать иначе. Философ Николас Решер, например, отмечал, что если во Вселенной есть разум, то это еще не значит, что мы сумеем его обнаружить. Настоящий внеземной разум может отличаться не только местом своего обитания в космосе, но также и самой своей природой. Как писали Дорис и Дэвид Джоунас около 40 лет тому назад, различные сенсорные возможности порождают различные «щели» для восприятия и объяснения реальности, а также взаимодействия с нею {12} 12 Doris Jonas and David Jonas, Other Senses, Other Worlds (New York: Stein & Day, 1976). [Дорис Джонас, Дейвид Джонас. Другие чувства, другие миры] .

Это означает, что такая чуждость может существовать не только за пределами Земли, но и рядом с нами. Вы вправе считать в определенном смысле разумными свою кошку или свой смартфон, гипотетического робота из будущего или даже, если смотреть с определенной точки зрения, ваше комнатное растение или ваш тостер.

Мечта о мыслящих машинах в действительности ничем не отличается от мечты о разумных пришельцах. Мы просто заменяем далеких биологических, космических, созданных энтропией пришельцев близкими механико-электронными и созданными человеком машинами. И если SETI и тому подобные проекты допускают униформитарианистскую ошибку в далеком космосе, то попытки придумать и создать искусственный разум и мыслящие машины связаны с такой же ошибкой здесь, на Земле.

Наверное, нагляднее всего демонстрирует, как мыслящие машины соотносятся с определенным модусом разумности, то, что человеческий опыт можно обнаружить в наших вымышленных апокалиптических сценариях с участием ИИ. В «Терминаторе», «Берсеркере» [111] Имеется в виду цикл научно-фантастических романов Фреда Саберхагена. — Прим. ред. и «Матрице» неприятности начинаются, когда искусственный интеллект настолько превосходит человеческий, что понимает: лучший для него вариант действий — уничтожить людей и занять их место (или же, по версии Курцвейла, когда наступает момент сингулярности, и люди по собственной воле подчиняются компьютерным повелителям, чтобы достичь бессмертия). Более близкий к нынешним реалиям повод для страха связан с ролью человеческого мышления и труда в экономике, которая все сильнее зависит от механических и электронных машин.