Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Спрашивать, над чем могли бы думать мыслящие машины, также было бы категориальной ошибкой. Они не думают над чем-то, поскольку «направленность» мышления происходит из интенциональных целей, являющихся для него стимулом. Системы ИИ сами по себе совершенно лишены интенций или целей. У них нет эмоций, они не испытывают ни сочувствия, ни обиды. Хотя такие устройства могут когда-нибудь воспроизвести наш разум — а каких-либо априорных доводов, свидетельствующих о том, что это невозможно, по-видимому, не существует, — их мышление будет лишено направленности, и ее придется задавать извне.

Мотивационная направленность — это результат естественного отбора, происходящего в биологических организмах. Естественный отбор выработал сложную комбинацию инстинктов, эмоций и стимулов, максимизирующих возможность передачи наших генов следующему поколению — процесс, который взвалил на нас разнообразные цели, включая желание побеждать, властвовать и управлять. И хотя у нас для желания побеждать могут быть вполне обоснованные эволюционные причины, машинам до этого вообще нет дела. Они просто манипулируют нулями и единицами в соответствии с программой, составленной людьми, которые хотят побеждать. На кой черт системе искусственного интеллекта захватывать мир? Что ей с ним делать?

А вот что действительно страшно, так это идея о сущности, обладающей сверхчеловеческим интеллектом и скоростью, а также нашей мотивацией, другими словами, о людях, у которых есть доступ к мощным системам искусственного интеллекта. Впрочем, умные приматы с ядерным оружием не менее страшны, а мы пока как-то сумели выжить в таком мире. Искусственный интеллект сам по себе не страшнее атомной бомбы — это инструмент, и бояться надо не его, а его создателей или владельцев.

Для меня сущность ИИ заключается не в сложных программах, гуманоидных роботах, тесте Тьюринга или надеждах и опасениях, связанных с добрыми или злыми машинами. Я думаю, что важнейшей проблемой в отношении ИИ является вопрос о том, существуют ли мысли вне сознания, и машины — не единственный пример того, что такое возможно. Я думаю о человеческой культуре и других, не обладающих самосознанием, формах коллективной идеации [85] Идеация — процесс формирования понятий и представлений. — Прим. ред. .

Культура — это древнейшая созданная людьми форма разума, существующего вне нашего интеллекта. Как и разум в машине, культура может решать определенные задачи. Кроме того, как и разум в машине, она создана нами, мы взаимодействуем с нею и находимся под ее влиянием, она даже способна уничтожить нас. У культуры своя логика, у нее есть память, она может пережить своих создателей, может быть гибкой и подстраиваться под новые задачи, а также побуждать к определенным действиям.

Это оксюморон, но я рассматриваю культуру как вид естественного искусственного интеллекта. Он искусственный, потому что создан людьми. Он естественный, потому что присутствует везде, где есть люди, и органически связан с нами. На самом деле наша биология и наша культура, вероятно, тесно переплетены и эволюционировали совместно, так что культура влияет на гены, а гены влияют на культуру.

Люди — не единственные представители животного царства, у которых есть культура. У многих видов животных есть проявления культуры, связанные с коммуникацией и использованием инструментов, — пение у птиц, например, или использование губок дельфинами. У некоторых видов даже есть своя фармацевтика. Недавние исследования показывают, что новые культурные формы могут создаваться и закрепляться и у других видов, а не только у людей.

Мышление вне сознания у нас и у других животных проявляется и иным образом: группы насекомых и птиц производят вычисления, комбинируя собранную многими особями информацию, чтобы определить положение гнезд или пищи. Один из простейших организмов на Земле, миксомицет Physarum, может в строгих лабораторных условиях демонстрировать подобие интеллекта — проходить по лабиринтам или выполнять другие вычислительные задачи.