Айзек Азимов: Выбор катастроф

Когда компьютеры и их «искусственный интеллект» захватят все больше и больше рутинной умственной работы мира, а, может быть, и не такие уж простые — тоже, не станет ли человеческий ум атрофироваться из-за недостатка работы? Не станем ли мы глупо зависеть от машин, и, когда у нас уже не будет интеллекта, чтобы их соответственно использовать, не выйдет ли наш вид из строя, а с ним и цивилизация?

С такой же проблемой и страхом человечество, должно быть, сталкивалось и в более ранние периоды истории. Можно себе представить, например, презрение древних строителей, когда вошел в пользование эквивалент измерительной линейки. Не выродится ли навсегда точный глазомер и опытное суждение умелого архитектора, как только любой дурак сможет определить, какой длины нужно взять дерево или камень, просто чтением отметок на палке? И, безусловно, не ужаснулись ли стародавние барды при изобретении письменности — кода отметок, который устранял необходимость памяти. Ребенок десяти лет, научившись читать, мог тогда декламировать «Илиаду», хотя никогда ее раньше не видел, просто следуя этим отметкам. Как бы мог выродиться ум!

Все же использование неодушевленных средств для рассуждения и памяти не разрушили рассуждение и память. Конечно, нелегко сегодня найти такого, кто бы мог без остановки по памяти читать эпические поэмы. Но кому это надо? Если наши таланты без подсказки больше не демонстрируют ненужные подвиги, разве достижение не стоит потери? Можно ли было построить на глаз Тадж Махал или мост Золотые Ворота? Как много людей знали бы драмы Шекспира или романы Толстого, если бы мы зависели от подыскания кого-нибудь, кто бы знал их наизусть и согласился нам читать, — если бы вообще было возможно создать их без написания?

Когда промышленная революция применила силу пара, а затем и электричество для решения физических задач человечества, разве мускулы людей в результате этого стали дряблыми? Подвиги на игровом поле и в гимнастическом зале опровергают это. Даже обычный, привязанный к городу работник офиса остается в форме благодаря бегу трусцой, теннису, гимнастике, делая с желанием то, что ему необходимо, и больше не делая этого под тяжелым давлением рабского принуждения.

С компьютерами может быть так же. Мы бы оставляли им механические работы по сухим, как пыль, расчетам, ведение документации, поиск информации, хранение данных, позволяя тем самым освободить свою голову для истинно творческой работы — так, чтобы мы могли построить Тадж Махал вместо глиняных хаток.

Это, безусловно, предполагает, что компьютеры никогда не будут служить ни для чего более, как для рутины и повтора. А что если компьютеры продолжат бесконечно развиваться и будут следовать за нами до последней твердыни нашего разума? Что если компьютеры тоже научатся строить Тадж Махал, писать симфонии и совершать новые великие открытия в науке? Что если они научатся подделывать все умственные способности, какие есть у людей? Что, в самом деле, если компьютеры смогут использоваться как мозги роботов, которые будут искусственными аналогами человека, делая все, что делает человек, только, изготовленные из более прочного и более долговечного материала, лучше переносящие суровую окружающую среду? Не станет ли человечество устаревшим? Не смогут ли компьютеры «взять верх»? Не станет ли это катастрофой четвертого класса (именно не пятого), которая уничтожит людей и оставит за собой наследников людей, созданных ими самими?

Если поразмыслить над этим, то можно задать себе довольно циничный вопрос: а почему бы нет? История эволюции жизни является историей медленного изменения видов или физической заменой одних видов совершенно другими, когда это изменение или замена приводят к лучшей подгонке к определенной нише в окружающей среде. Эта длительная, петляющая история несколько сотен тысяч лет назад пришла наконец к Homo sapiens, но почему это должен быть окончательный шаг?

Надо ли считать, что пьеса закончена? Собственно, если бы мы были способны отстраненно взглянуть на весь сложный путь эволюции в мире эпоха за эпохой, как медленно, по пути проб и ошибок, успехов и промахов эволюционировала жизнь, прежде чем появились известные нам виды, нам бы могло показаться, что разумно взять процесс эволюции в собственные, направляющие руки. Нам бы могло показаться, что в эволюции произошел бы реальный прогресс, если бы появился искусственный интеллект — лучшее из того, что до сих пор было придумано.