Станислав Лем - Диалоги

ГИЛАС. То есть вся перспектива, вся эта картина «перемещения» психики – не более чем фикция?

ФИЛОНУС. Нет. Это просто маловероятная, но физически, материально неисключаемая возможность. Я тебе уже говорил накануне, что нам неизвестна верхняя граница сложности систем типа сети. Может быть, при использовании электрического тока и более совершенных, чем сейчас, функциональных единиц, тождественных нейронам, можно было бы сконструировать сеть в десять или сто раз более совершенную, чем человеческая.

ГИЛАС. Отлично. Тогда у нас получился бы «синтетический гений»?

ФИЛОНУС. Посуди сам, если мы изучим общую теорию сети, то с ее помощью мы сможем конструировать сети с произвольными признаками (физически возможными, разумеется; мы не можем построить сеть, действие которой противоречило бы законам Природы). Общее доказательство выдающегося английского математика Тьюринга представляет нам теоретическую возможность создания сети, которая «может абсолютно все», то есть, ясное дело, все, что возможно. В этом смысле возможно в будущем предположить создание сети, способной творить симфонии или рассуждать, каковы могут быть отличные от земных варианты эволюции жизни на непохожих на нашу планетах.

ГИЛАС. Филонус, ты надо мной насмехаешься!

ФИЛОНУС. Друг мой, неужели ты почувствовал себя задетым с точки зрения человеческого достоинства? Но почему тогда тебя не трогает вид подъемного крана, который в десять тысяч раз сильнее тебя, и при этом оскорбляет образ машины, в тысячу раз более понятливой, чем ты? Как энергетическая машина увеличивает силу человека, так информационная машина увеличивает его познавательные способности! Заметь, пожалуйста, что накопление знаний ставит перед нами все более трудные задачи. Математика ХХ века – значительно более сложная и требующая большего напряжения мысли область, чем математика века Х, а наши мозги остаются все такими же, как и мозги людей тысячного года, поскольку математика развивается от десятилетия к десятилетию, в то время как эволюция мозга (то есть расширение его возможностей, улучшение четкости его работы) происходит в темпе, в миллионы раз более медленном. Если сами мы не в состоянии поднять определенную тяжесть, мы строим машину, которая этот груз сдвинет. Если сами мы не в состоянии разрешить определенную интеллектуальную проблему, то мы построим машину, которая эту проблему решит. Я, право же, не понимаю, что в этом унижает человеческое достоинство? Ведь, в конце концов (если ты это имеешь в виду), это мы создадим «синтетического Эйнштейна», а не он – нас!

ГИЛАС. Дело не в этом, дело в том, что такая перспектива, такая картина будущего неотступно создает навязчивое впечатление ненужности человека. Мыслящие машины типа «синтетического гения» не нуждаются в нас, в нашем сотрудничестве, в нашем контроле, как нуждаются в них подъемные краны и паровые молоты.

ФИЛОНУС. Ну и что с того, если они работают на нас?

ГИЛАС. То есть ты считаешь, что машины в будущем станут опережать человека во всех областях?

ФИЛОНУС. Эка хватил! Уже опережают! Любая плохонькая электронная счетная машина справится с заданием, с которым за всю жизнь не справится лучший математик. Существует такой в общем-то смешной и очень наивный миф о заводах будущего как о просторных, заставленных пальмами цехах, полных автоматов, где на центральном пульте стоит человек в белоснежном халате, контролирующий производство... Это (если взять для примера химический завод новой формации) абсолютно невозможно. В новой химической промышленности внимание сосредоточено на реакциях, протекающих с огромной скоростью в раскаленных газах. В этих условиях возникают, именно в области газового пламени, различные ценные химические субстанции, существующие лишь долю секунды. Чтобы их уловить, необходимо поддерживать реакцию, являющуюся их источником, и одновременно непрерывно выводить их из области высокой температуры. Процессы контроля и управления должны происходить за доли секунды, с чем человек не в состоянии справиться, если учесть малые скорости нервных импульсов. А значит, человеку в белом халате нечего делать на этом заводе, пока производство в порядке – под контролем электронного мозга.

ГИЛАС. А если этот мозг сломается, то он его починит.

ФИЛОНУС. Или он, или соответственно настроенный на подобную операцию другой электронный мозг, который выполнит ремонт значительно быстрее и четче.