Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Такие же люди, как те, что сегодня беспокоятся по поводу мыслящих машин, пятьдесят лет назад были уверены, что повсеместное использование калькуляторов приведет к наступлению эры тотального слабоумия. Однако ничего подобного мы не видим и не увидим в будущем. Мыслящие машины избавляют нас от рутины хранения данных и проведения стандартных операций с ними, дают нам возможность войти в новую фазу эволюции. Только настоящие люди с мягкой, розовато-серой нервной тканью способны совершать подлинно человеческие действия — интроспекцию и рефлексию — над природой существования. Плотные и неравномерные сети взаимосвязанных нейронов в мозгах значительно отличаются от человека к человеку и трансформируются от одного момента мышления к другому, так что нет двух одинаковых личностей, двух одинаковых дней, ни одно воспоминание никогда не всплывает в голове одинаково. Автоматизируя многие рутинные физические и умственные задачи, уменьшая необходимость в утомительном рекурсивном поиске, мыслящие машины освобождают нас от физической усталости и интеллектуальной монотонности, присущих предыдущим историческим этапам. Мы теперь можем гораздо больше размышлять о том, что значит думать, мечтать, шутить, плакать. Мы можем задаваться вопросами о значении человеческого духа, истоках самопожертвования и эмерджентных качествах тысяч людей, собирающихся вместе посмотреть представление, составить друг другу компанию и порадоваться обычным человеческим вещам. Это не просто избыток людей в одном месте — это человеческая сущность. Мыслящие машины дают людям возможность радоваться интуитивным озарениям и поддерживать уравновешенность, характерную для саморегулируемого человеческого разума.

Искусственный интеллект часто используется как инструмент, дополняющий наше мышление. Но искусственный интеллект может быть — и будет — чем-то большим, чем инструмент, чем наш слуга. Каких отношений между нами следует ожидать?

Мы много слышим о том, как появление сверхразумных машин ознаменует конец человеческой расы и что между людьми и искусственным интеллектом развернется борьба за власть. Другой вариант развития событий, однако, заключается в том, что он превратится в компаньона, взаимодействующего с нами по тому же принципу «ты — мне, я — тебе», которым мы руководствуемся при общении с нашими любимыми коллегами. Нам удалось одомашнить волков, сделав из них преданных собак; возможно, у нас получится приручить искусственный интеллект и избежать борьбы за власть.

К сожалению, одомашнивание искусственного интеллекта будет намного сложнее, чем просто создание более быстрых машин с большим объемом памяти и более мощными алгоритмами, способными обрабатывать больше данных. Чтобы разобраться в причинах этого, рассмотрим простое взаимодействие с обычной интеллектуальной системой — с планировщиком маршрутов. Представьте, что воспользовались своим любимым навигатором, чтобы найти дорогу в незнакомом месте, и получили указание повернуть налево на следующем перекрестке, а вам кажется, что это неверно. Если бы навигацией занимался ваш друг, сидящий на пассажирском сиденье с картой, вы бы спросили: «Ты уверен?» — или, может быть, просто: «Точно налево?» — с интонацией, указывающей на недоверие.

Однако у вас нет способов переспросить навигатор. Эти системы, как и искусственный интеллект вообще, не умеют давать толковых объяснений. Они не могут объяснять свои намерения так, чтобы мы их поняли. Они неспособны поставить себя на наше место, чтобы понять, какой ответ нас бы удовлетворил. Они не выразят уверенность в выбранном маршруте иным способом, кроме как с помощью вероятностной оценки производной по времени для альтернативных маршрутов, тогда как мы хотим, чтобы они подумали над достоверностью выдвигаемых ими предположений. По этой причине и по ряду других из искусственного интеллекта не получится хорошего компаньона в таких делах, как планирование маршрута, и в большинстве других задач. Это инструмент, мощный инструмент, который часто бывает весьма полезен. Но это не партнер.

Много чего должно произойти, чтобы искусственный интеллект превратился из инструмента в партнера. Возможная отправная точка — сделать его заслуживающим доверия. Представление о доверии автоматике сейчас довольно популярно, но для наших целей оно слишком узко. Доверие автоматике означает, что оператор может либо воспринять выходные данные как истину, либо подумать, что программное обеспечение дало сбой, либо решить, что оно было взломано. Воюющие стороны опасаются полагаться на интеллектуальные системы, уязвимые для хакеров. Они опасаются, что им придется постоянно проверять, какие части системы могли подвергнуться несанкционированному доступу и какое воздействие взлом оказал на прочие части системы.