Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Можно смело утверждать, что завтрашние мыслящие машины окажутся очень похожими на сегодняшние — это будут старые алгоритмы на более быстрых компьютерах.

Наш подход к использованию языка можно назвать гибким, щедрым и творческим; его породил наш своеобразный интеллект. Но мысль человека и мысль машины — не одно и то же, разница между ними очень важна.

Мы могли бы сказать, что машинное «мышление» относится к человеческой мысли как модель явления — к самому явлению, что это заведомо простое описание сложного процесса, которое тем не менее может быть адекватным и точно способно оказаться полезным. Такие слова, как и сами машины, стоит рассматривать как своеобразные символические обозначения для того, в чем мы хотели бы разобраться. Описание машин как «мыслящих» сущностей может быть просто эвристическим приемом; конструкция машины может быть очевидно биомиметической [98] То есть основанной на принципах, позаимствованных из живой природы. — Прим. ред. . Действительно, мы часто приспосабливаем язык биологии, чтобы говорить о предметах, которые создаем. Мы видим, что машины эволюционируют, что их мышление становится все более похожим на наше и явно превосходит его, что может быть потенциально опасно. Но нам нужно помнить, что «эволюция» машин — это не биологический процесс, он направляется человеком, создателем. Его можно назвать естественным или биологическим только в том смысле, что он является результатом действий естественных, биологических человеческих существ.

Такое определение естественного приводит к возникновению ряда существенных проблем. Биологическая эволюция — не процесс, направляемый неким творцом. Структуры нельзя создать силой мысли, предпринимательского духа или разума, движимого любопытством. Биологи, философы и социологи, изучающие то, как мы преподаем эволюцию, неоднократно демонстрировали, насколько вредны попытки внедрять в эту дисциплину идеи о разумном замысле или телеологии. Думать, что машины в ходе «эволюции» обзаведутся бо́льшими когнитивными способностями, — значит подкреплять совершенно неверное понимание природы эволюционного процесса. Кроме того, если мы относим машинное «мышление» к естественным процессам, следовательно, все вызванные человеком изменения земной экосистемы, совершенные в результате небрежности или войны, также можно назвать естественными.

Определенно, долю истины мы с помощью аналогий передаем — к примеру, «мозг есть машина» или «машинное мышление», — но это больше говорит о том, как мы объясняем мир. Нам хорошо бы помнить, что наши уникальные познавательные способности — результат множества превратностей и случайностей, произошедших на эволюционной ветви, отделенной от других ныне существующих примерно 6 миллионами лет. На самом деле обычно считается, что абстрактному мышлению всего 50 000 лет, по более оптимистичным оценкам — 200 000 лет, то есть в истории Земли оно появилось очень поздно. Тем не менее оно приводит к тому, что мы рассматриваем мысль машины и человеческую мысль как сопоставимые явления.

Процессы, стоящие за технологическими и биологическими инновациями, радикально различаются, то же относится и к движущим силам в этих процессах. В технологической инновации есть определенный продукт или функция — «мысль» или «мышление», которых мы хотим достичь и к которым стремимся. Человеческие когнитивные способности эволюционировали в популяциях индивидов, совершенно непохожих на машины, которые, как ламарковские жирафы, могут приобретать функциональные характеристики в течение своей жизни. Инновации в биологической эволюции предшествует продолжительная импровизация. Есть только генетика и изменчивость признаков фенотипа в популяциях, среда и случайное влияние этих признаков на продолжительность жизни в популяции.

Что же теряется, если думать, что машины «думают»? Я бы сказала, что мы упускаем из виду ключевые особенности феномена, который описываем с помощью аналогии. Биологическая эволюция возникает в популяциях и не является целенаправленной. Она не пытается решить какую-то задачу. Превратности истории как Земли, так и жизни на ней привели нас к нынешнему состоянию когнитивных способностей человека. Разные процессы ведут к разным результатам. Возьмем, к примеру, язык: компьютер может неточно использовать термины?