Станислав Лем: Artificial servility - язык моделирования виртуальной реальности

Имеем целые системы для управления и дирижирования, например, построением авто или ракет (или бомб…) с помощью «промышленных роботов». И все это дальше развивается, но где в этом поступательном движении может появиться след разумности, интеллектуального внушения, «творческого вдохновения»? Научились уже достаточно тому, чтобы его замещать, можем запускать симулирующие и оптимизирующие программы, и программы, создающие «виртуальную реальность», но, к сожалению, все это эффекты наших обходов «интеллектуальности» и творческого «воображения», все это подмены. Это подобно «интеллектуальности» пищеварительного тракта, который вначале «пожирает пищу» и «глотает» ее, «окисляет», и этим «интеллектуальным» способом получает для организма энергию и химические соединения, необходимые для поддержания жизни, а все обесцененные энергетически и химически «остатки» удаляются как экскременты. Да, выполнять что-то подобное мертвые устройства мира электроники, подневоленные человеческой разумности, уже умеют, но ведь никто не считает, что употребление и переваривание котлеты — это доказательство проявления интеллектуальности зубов, слюны, желудка и кишок.

Единственный ответ на причины отсутствия интеллекта, перемещенного из живого мозга в машины, на отсутствие малейшего следа одушевления машин (не Deus ex machina [Бог в машине], а хотя бы Animus ex machina [Душа в машине]) звучит следующим образом.

НЕТ ОДНОГО ЕДИНИЧНОГО РАЗУМА. Нет также одной единицы интеллекта. Если будет создан Artificial Intelligence, а не какой-нибудь заменитель, более-менее удачно имитирующий интеллект, то уже тем самым, хотим или не хотим, люди как конструкторы AI вступят в царство разнообразия . Интеллектуальная система будет послушна — или не захочет быть послушной. Так как понимает приказы, просьбы, воздействия, желания и может послушаться или воспротивиться. Если всегда будет все готова слушать, то тем самым продемонстрирует, что является безвольной и что «не может иметь собственного мнения». То, что те же самые научные, художественные, литературные (и т. д.) тексты разные люди, по-разному образованные, талантливые, т. е. не конченные идиоты (о них не говорю здесь вообще), способны по-разному трактовать, интерпретировать, по-своему признавать важными или мелкими, взволноваться ими или разозлиться, чувствовать возмущение, безразличие или восторг, — это все, что перечислил и чего для краткости эссе больше не приведу, показывает множество реальных проявлений разумности, существование которой мы склонны признать. Если бы это было не так, то не смогли бы возникнуть исторические, или диахронические, и современные, или синхронические, разнообразные стили мышления в религиях, в философии, и last but not least даже в инженерно-промышленном создании оружия или спасительных лекарств и терапевтических методов. Ибо, например, любая экспертная программа среди всех существующих (сейчас) не придумает для нас нового метода терапии любого заболевания, так как программы совершенно не мыслят, а если б начали думать, то должны были бы думать разнообразно. Говоря то же самое иначе: создать искусственный интеллект — это значит создать поле свободы также и для интерпретации. Так называемая «лингвистическая перформативность» [от performance — исполнение] обозначает: любой человек, который способен пользоваться языком (понимая его, а также разговаривая на нем), вообще не должен и даже не может идеально однозначным способом артикулировать [от articulate — формулировать] мысли, которые возникают у него в мозгу. По такой малой оценке «перформативность» просто означает, что мы говорим в меру свободно, а не только цитируем исключительно то, что выучили наизусть. Наизусть говорит граммофонная пластинка или магнитофонная лента, или дискета. Мы можем «русло бега языковых мыслей, словами отображаемых» изменять. Чем лучше кто-то знает данный язык, тем большая в его разговорах преобладает свобода артикулярного разнообразия, а в иностранном языке мы сильно ограничены. К чему этим будто бы развлекательным разговором склоняю? Единственно к тому, что, высекая интеллект из мертвых устройств, окажемся в окружении множества проблем. О некоторых напомню.

В настоящее время устройствам передачи данных не хватает автоконтроля. Модемам все равно, что они передают на весь сетевой мир: или изображения святых, или изображения голых задов, или формулы производства взрывчатых веществ. Им все равно, и от этого сейчас мы страдаем, так как люди имеют неприятную привычку пробовать фрукты, заказанные исключительно из-за их необычности, либо вредные, даже убийственные. Но прошу взвесить: если возникнет в сетях блуждающий «искусственный интеллект», то тем самым появится способность фильтрования, сдерживания, отсева и уничтожения информации, так как интеллектуальность, которая с разумностью единокровны, может и даже обязана быть также способной к введению цензуры для установления преград прохождению определенного типа информации. При этом окажется, что есть много различных интеллектов, и тем самым разные государства, разные режимы, разные веры, разные миропонимания, разные точки зрения начнут пользоваться способностью «нейтрализации или уничтожения» такой информации, на которую наложено табу, поступления или доступности которой для тех или иных адресатов не желают. Сейчас, чтобы не подвергать детей, например, возможности просмотра электронно пересылаемых изображений (например, в TV), отец или мать могут установить «электронный намордник» на телевизор, исходя из того, что они (отец с матерью) узнают о программе, которая должна появиться. Если эту «приставку» не установят, то какой-либо «добропорядочной цензуры» сам по себе телевизор не создаст. Таким образом, окончательно «цензурируют» изображения или тексты отец с матерью, или дядя с тетей, или воспитатель, но не электронные устройства. Электроны ничто не шокирует. В то же время искусственный интеллект должен, а не только может, проявлять активность и избирательность. Можно его развратить, можно ему то или это отсоветовать, можно его дезориентировать, обмануть, отуманить или научить и объяснить ему что-нибудь. Фундаменталисты безмерно бы обрадовались, если бы овладели AI! Уже не надо было бы, как в Иране, просто запрещать установку спутниковых тарелок и приемников… Не так давно прошло то время, когда Советы признавали возникновение глобально действующих спутниковых ретрансляторов как угрозу типа casus belli [военная]. Я не придумал это специально для настоящего эссе. Уже нет Советов и еще нет искусственного интеллекта, но уверяю читателей, что вместе с его появлением наступит новая эра, насыщенная новыми, неизвестными опасностями. Не всех увлекает идея ГЛОБАЛЬНЫХ ВАРИАНТОВ ЦЕНЗУРЫ. Кроме этого, не говорю, что искусственный интеллект нас за голову может взять, но вводить в заблуждение, обманывать, сбить с пути сможет. Это — во-первых. Во-вторых, как нет одинакового у всех людей разума, так не может быть одинакового до тождественности интеллекта. Как существуют двигатели различной мощности, точно так же разной силы могут быть искусственные интеллекты. Не начнется сразу же с построения машинных Эйнштейнов или — как в моем произведении — «Големов» [речь идет о работе «Golem XIV»; имеется русский перевод первого издания: «С.Лем, Голем XIV». — в книге «Сборник научной фантастики. Выпуск 23», Москва, «Знание», 1980, с. 132–187; расширенное издание: «S.Lem, Golem XIV». Krakow, Wydawnictwo Literackie, 1981, 140 s.]. Может, возникнут разные виды интеллекта, основанные на разных типах «характеров». Считаю лично, что «разумность» и «личность» — эти сути потенциально разделены. Но такая потенциальная разделенность также не может быть направлена на нас добром и только добром.

Читать дальше