Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Мы создали технологии, которые не сможет освоить ни один отдельно взятый человек. Наши творения уже вышли за пределы нашего понимания. Поэтому неудивительно, что нам так легко представить, как они становятся самостоятельными существами, обладающими по меньшей мере столь же гибким разумом, как и наш. Научная фантастика описывает идеальных роботов, неотличимых от нас, имеющих тела, говорящих и, очевидно, испытывающих чувства, — роботов, которые могут ввести нас в заблуждение и, вероятно, способны напасть на нас.

Но в нашем понятийном мышлении о собственных разумах мы склонны оставаться картезианскими дуалистами. Мышление кажется такой бесплотной деятельностью, что мы забываем: мы не мозги в банках, никакая микротехнология не воссоздаст всей сложной биологии, благодаря которой работает наш разум, изобилующей нейромедиаторами, энзимами и гормонами. Мы — это наши тела; у нас есть эмоции, непосредственно связанные с телом и влияющие на мыслительный процесс. Машины способны освоить ориентированные на определенные цели когнитивные способности, но их совершенная обработка данных коренным образом отличается от несовершенного, непостоянного, неочевидного мышления людей, связанного с осознанием своего «я», проприоцепцией, чувством собственной целостности, квалиа, отличающих нас от зомби. Компьютеры превосходно справляются с процессами, в которых большинство из нас выглядит довольно неуклюже, мы все чаще обращаемся к машинам, когда нам нужны факты. Значительная часть нашей памяти передана Google, и нет сомнений в том, что наши разумы все больше и больше выходят за границы наших тел — что мы существуем в растущей сети бестелесных разумов и данных. Мышление — отчасти социальная способность; мыслить — значит участвовать в коллективном предприятии, а его сложность так же характеризует состояние человека, как и наша телесность. У машин нет социальной жизни, уже не говоря о том, что они не являются набором биологических тканей, сформированным в ходе эволюции. Они хорошо справляются с определенными задачами, а мы хорошо научились использовать машины для своих целей. Но до тех пор пока мы не создадим телесное эмоциональное существо, чего, как я полагаю, мы сделать не сможем, наши машины продолжат заниматься лишь подобием нашего мышления и эволюционировать сообразно нашим потребностям.

Долгие годы мы доказывали, что искусственный интеллект, в особенности область машинного обучения, быстро развивается и находится на пороге еще более быстрого и значительного роста. При этом мы выступали за то, что идеи безопасности и этики в сфере искусственного интеллекта — важная тема, и что всем нам надо воспринимать ее очень серьезно. Потенциальные выгоды искусственного интеллекта будут огромны, но, как в случае с любой мощной технологией, они сильно зависят от того, насколько внимательно мы будем подходить к применению этой технологии.

Хотя некоторые ученые нас всячески поддерживали, когда мы запустили проект DeepMind, многие были настроены скептически. Однако за последние годы климат для амбициозных исследований в области искусственного интеллекта значительно улучшился, чему, несомненно, способствовала череда удивительных достижений. Были наконец решены давние проблемы; кроме того, в научном сообществе начала крепнуть уверенность в том, что лучшее еще впереди. Мы видим это во взаимодействии с широким кругом исследователей, а также в том, как изменился тон статей об искусственном интеллекте в СМИ. Если вы не заметили, «зима ИИ» уже закончилась и наступила «весна ИИ».

Как это бывает со многими трендами, некоторые люди слишком оптимистично настроены и заходят в своих прогнозах так далеко, что предрекают скорое создание искусственного интеллекта человеческого уровня — буквально со дня на день. Это не так. Кроме того, учитывая негативное изображение футуристического искусственного интеллекта в Голливуде, наверное, неудивительно, что образы «судного дня» все еще нет-нет да и появляются в СМИ. Как точно подметил Питер Норвиг: «Нарратив изменился. Он переключился с „Правда, жаль, что ИИ — провальный проект?“ на „Правда, жаль, что ИИ — успешный проект?“»