Станислав Лем - Диалоги

ГИЛАС. А если и тот сломается?

ФИЛОНУС. А если человек заболеет? Здесь нет никакого regressus ad infinitum , есть только определенная иерархия автоматов, взаимно контролирующих функции, замкнутый круг, который, разумеется, может разомкнуться из-за какой-то неполадки. Сегодня эти дефекты устраняют люди, но завтра?

ГИЛАС. Однако в твоем примере речь в основном идет о проворстве, о быстроте реакции, как, например, в случае со счетной машиной. Получается, что электронные мозги побивают человека только в скорости действий.

ФИЛОНУС. Согласен. Давай возьмем другой пример, где речь идет не о проворстве, а о высшей способности сети как интегрирующей единицы. Как ты прекрасно знаешь из собственного опыта, мыслительный процесс тем труднее, чем больше элементов (понятий) сознание должно охватить одновременно. Поэтому легко производить в уме простейшие арифметические операции, но трудно извлечь корень четвертой степени из десятизначного числа. Однако это всего лишь проблема «временной памяти», то есть фиксации в ней промежуточных результатов, отдельных этапов математического вычисления. В таких вычислениях мы имеем дело с раз и навсегда данными, принципиально неизменными от начала и до конца указаниями к действию (сначала ты должен умножить, потом запомнить полученный результат, потом разделить и т.д.). Когда же речь идет об обобщении большого количества фактов в теорию, по мере самого процесса организации этих фактов в обобщение высшего уровня изменяются и указания к действию, которые не являются окончательными, а следуют из очередных построений. Когда, например, из данных астрономии, физики и математики мы пытаемся создать теорию гравитации более общую, чем ньютоновская, приходится иметь дело с таким огромным количеством факторов, которые необходимо учесть одновременно, что только сеть с чрезвычайно высоким коэффициентом полезного действия может с этим справиться. Такой сетью располагал, да простится мне столь неуклюжее определение, Эйнштейн. Так вот, в будущем не каждый сможет стать Эйнштейном, но каждый будет иметь к своим услугам достаточно оперативную машину для мышления.

ГИЛАС. Но представь, какие губительные перспективы открывает такая возможность! Какое-то время набирающие мощь электронные мозги еще будут выполнять действия, которые люди смогут понять, охватить разумом, оценить хотя бы приблизительно. Однако впоследствии эта раз обнаруженная пропасть начнет расширяться. Мыслящие агрегаты станут представлять нам результаты своих теоретических разработок, которые мы, возможно, и сможем применить, но понять их мы уже окажемся не в состоянии. Будет все увеличиваться область явлений, которыми станут распоряжаться автоматы. В конце концов люди съежатся до размеров безмозглых слуг железных гениев и, может быть, начнут оказывать им божеские почести...

ФИЛОНУС. Вообрази себе, дружище, что слова твоего пророчества по отношению к роду человеческому уже исполнились, к тому же в довольно отдаленном прошлом.

ГИЛАС. О чем ты? Я не понимаю.

ФИЛОНУС. Возникновение электронных мозгов – это начало эволюции средств мышления. Потенциально они могут стать независимыми от человека, как уже стали независимыми от него результаты его общественной и производственной деятельности. С возникновением общества оформилось разделение труда, специфика производственных сил и способ производства создали машину, которая, освобождаясь от человеческой воли, все более влияла на судьбу индивидов, вплоть до того, что были времена, когда человечество этой машине – государству – стало оказывать почти божеские почести... Это не случайная и не поверхностная аналогия, мой Гилас! Люди ни в коем случае не должны – ни сейчас, ни в будущем – утратить контроль над творением их собственных рук и мозгов. Они ни в коем случае не имеют права предаваться спокойной бездумности, интеллектуальной лени, розовому оптимизму, наивной вере в то, что то или иное изобретение или та или иная общественная организация спонтанно, автоматически гарантирует наступление Золотого века. Никакие проявления неудовольствия, никакое отвращение, никакие исполненные возмущения причитания вроде: «и все-таки человек – венец творения» не изменят фактов, а создание все более совершенных и функциональных электронных мозгов есть факт бесспорный, и никто их не отменит в нашей земной жизни, раз уж они в ней появились. Если человечество не будет тщательно анализировать все, именно все, то есть также и отрицательные, самые мрачные последствия развития электронного мозга, то результаты его эволюции могут оказаться еще более губительными, чем кризисы, экономические катастрофы, безработица и хаос свободного капиталистического рынка. Именно поэтому мы так много рассуждаем о кибернетике, стремясь – зачастую тщетно – понять все, что она может нам сказать о явлениях, на первый взгляд так отдаленных во времени, как биологическая эволюция и психология, общая теория информации и социология.