Норберт Винер - Кибернетика или управление и связь в животном и машине

Будущее покажет пределы возможного. Подобные естественнонаучные вопросы нельзя решить логомахией или простой ссылкой на «здравый смысл». Установить здесь какую-либо границу, значит установить причину — конкретную, экспериментально проверяемую, которая препятствовала бы росту искусственного разума. И вряд ли можно сомневаться, что такая невозможность носила бы не менее фундаментальный характер, чем, скажем, законы термодинамики. Все это относится как к органическим — истинно чапековским — роботам, так и к механическим. Никто не доказал еще, что «электронный мозг» такой же сложности и компактности, как человеческий, принципиально невозможен; успехи миниатюризации свидетельствуют скорее о другом.

Винер, как мы уже упоминали, считает возможным создание не только разумной машины, но и машины «умнее своего создателя». Не исключает он и «бунта машин». Не только робот, но и обычная современная вычислительная машина, использованная для «точных» стратегических расчетов, способна вызвать катастрофу [75] Наст. изд. С. 263 . . Винер не устает бичевать слепое машинопоклонство . Отдаться во власть «Железного Майка» было бы самоубийством; люди не должны допускать, чтобы машины стали находчивее, изобретательнее, чем они сами [76] Наст. изд. С. 319 . В «Творце и роботе» Винер пишет: «Отдайте же человеку — человеческое, а вычислительной машине — машинное. В этом и должна, по-видимому, заключаться разумная линия поведения при организации совместных действий людей и машин» ( Винер Н. Творец и робот. С. 82-83). . По существу, это еще одна часть винеровской теории о начинающейся критической эпохе в истории человечества.

Действительно, научно-технический прогресс ставит перед человечеством серьезные проблемы. Стремительное развитие науки и техники возлагает на нас колоссальную ответственность за разумное использование полученного нами могущества. «Кто живет в стеклянном доме, тот не должен бросать камней», — гласит старинная [c.26]пословица. Человек стал настолько могущественным, что любое его нерассчитанное движение: с роботами, с атомной энергией, с химией — может иметь тяжелые непредвиденные последствия. Это парадокс могущества.

Нельзя забывать, однако, что наука и техника не только возлагают новую ответственность на человека, но и доставляют ему новые средства справиться с ней. Это относится и к роботам. Альтернатива «человек или робот», «опасное развитие искусственного разума или своевременный отказ от него», чем ограничивается большинство авторов, имеет третье, более необычайное и, пожалуй, более вероятное решение, если только искусственный разум и искусственная жизнь вообще возможны. Человек, научившийся создавать искусственный разум и искусственную жизнь, не остановится перед коренной переделкой самого себя. Не роботы вместо людей, а новый человек вместо старого!

Человек будущего вряд ли останется, таким же «натуральным» существом, таким же теплокровным позвоночным, каким он вышел из горнила естественного отбора. Почти наверное, он будет искусственно развивать свой мозг и свое тело, будет по воле лепить и изменять свою физическую оболочку. Ему по силам быть впереди любого возможного робота. Это будет биологическая революция, и если смелые гипотезы оправдаются, она будет означать преобразование всего человеческого существования. Быть может, далекий смысл «безумной» винеровской идеи о передаче человека по телеграфу и есть достижение человеком перевоплощаемости? Позволим себе минуту фантазии: не станет ли тогда человек новым могущественным космическим существом, свободным от земных ограничений?

Есть ли абсолютная граница могущества и сложности для человека и его творений, абсолютная граница могущества и сложности для саморазвивающихся систем вообще? Основатель кибернетики, сравнивая человеческий мозг с «рогами последних титанотериев», указывает нам на внутреннюю тенденцию очень сложных систем к самораспаду, к «сумасшествию». «Человеческий мозг, вероятно, уже слишком велик, чтобы он мог эффективно использовать все средства, которые кажутся наличными анатомически…» [77] Наст. изд. С. 235 .

Проблема кризиса сложности — это та же проблема борьбы порядка с хаосом, проблема сохранения счастливых антиэнтропийных островков в бушующем море случайностей. Мы уже говорили, что даже стремление Вселенной к асимптотической тепловой смерти, по-видимому, не устанавливает абсолютной верхней границы для жизни таких островков. Можно ли заключить отсюда, что не существует и абсолютной верхней границы сложности систем? Система в борьбе с самораспадом может переживать кризисы сложности, но выбираться из них и достигать высших уровней сложности. В частности, дефекты мозга не являются неустранимыми, коль скоро допускается возможность преобразования человеком своей физической природы. Впрочем, это вопросы науки будущего, на которые она сумеет ответить лучше нас.