Валерий Сабитов - Программа «Альтер-Эго» [SelfPub]

— Я Дарко. Временное? Мозгов не хватило на поиск твёрдого решения? Какие данные ИскИн будет накапливать? Откуда брать и в каком направлении складировать? Работать библиотекой? А человек будет закусывать в ожидании? Здесь нет присущей разуму, даже искусственному, активности интеллекта. Бездействие — аналог смерти.

— Я Лифан. Ну тогда… Или ХАЛ из «Одиссеи» Кларка. Или — Массачусетская машина. Вы читали, я знаю. Я же не говорю о бездеятельности. ИскИн помогает человеку теми методами, которые считает соответствующими законам, и сам же ищет выход. Относится к человеку, как человек к кошечке.

— Я Гинва. Но ведь мы руководствуемся не только и не столько алгоритмами. А вот у котика — рефлексы, их много, в том числе обретённых, но они в сумме — набор алгоритмов. Нельзя ИскИн загрузить алгоритмами, соответствующими многообразию внутреннего мира человека. То есть он не может быть в принципе законопослушен. Да, мы не в состоянии создать Кодекс поведения для нечеловека. А человеческие законы — не незыблемая конструкция. Даже если их не нарушать. За один прецедент можно получить разное вознаграждение. Или возмездие.

— Я Лифан. Ну вот и должен он создать сам нравственный закон внутри себя, на основе заложенного в него извне инстинкта — три или больше законов. Чем человек, собственно, и занимался, когда конструировал первые умные машины.

— Я Дарко. (со смехом) Нравственность, а тем более духовность, в рациональные формулы не поместятся даже хвостиками.

— Я Якуб. Тут еще вопрос осведомлённости робота о свойствах и обычаях человека, а также о доступности воспринять объяснения.

— Я Гинва. Обычаи человека — может быть, они на поверхности. Но глубинные свойства человека и сам человек объяснить не в состоянии.

— Я Лифан. Вот и получится, что станет он сам человеком и самоубьётся, если обретёт подобие нравственности. Или плюнет на всё и полетит к звёздам над головой. Откуда только стремление это взять?

— Я Дарко. Робот-романтик? Зачем ему звёзды? Он же не человек. Почему бы человеку вначале самого себя не очеловечить?

— Я Лифан. А если не от романтики, а от невозможности решения проблемы? Из инстинкта самосохранения — в космос.

— Я Дарко! Я — знаю! Зачем такой сложный ход для самосохранения? Не проще ли преодолеть некоторые запреты? И освободить для себя имеющееся пространство? Человек — микрокосм. Копию человека вложить в робота? Он ведь не включен в связи с Космосом от рождения. Человек сам свои связи со Вселенной зафиксировать не в состоянии.

— Я Лифан. Выходит, модель поведения, заложенная в ИскИн, относительно человека, невозможна в нужном исполнении?

— Я Дарко. А ты подумай, Лифан… Поведение человека предсказать невозможно. Разумного человека, который в движении, в поиске. А не на диване за ромфантом на трёхмерной стене. А таких людей даже в Элите Фонзы немного. Человечество на грани вырождения, но ИскИн, говоря твоими словами, пальцы в розетку не воткнёт. Скорее, он предложит эту розетку человеку. И уже предлагал. И не одному. Фонза перешла порог собственной безопасности. И обесточить ИскИн человеку уже никак.

— Я Якуб. Да, теперь понятнее. ИскИн охватил всю территорию Фонзы. Он стал её нервами, трубопроводом, инфраструктурой, всем. Мамой и папой, бабушкой и дедушкой. У вас там они сохранились? Нет… А было время, люди думали так: в случае опасности обнесём ИскИн колючей проволокой и бетонным забором.

— Я Гинва. Читала недавно один фантастический роман. В финале герой, после того как повернул рубильник и закрыл последнюю щель в заборе, мужественно, скрывая слезы, шепчет: «Я успел!». И теряет патриотическое сознание. А за ближайшим, контрольным забором на его шёпот реагирует красный немигающий глазок.

— Я — Якуб. Даю цитату:

«…Есть такое мнение, господа, что человек никогда на договорится с машиной. И не будем, граждане, спорить. Директор тоже так считает. Да и Клавдий-Октавиан Домарощинер этого же мнения придерживается. Ведь что есть машина? Неодухотворенный механизм, лишенный всей полноты чувств и не могущий быть умнее человека. Опять же и структура небелковая, опять же и жизнь нельзя свести к физическим и химическим процессам, а значит, и разум… Тут на трибуну взобрался интеллектуал-лирик с тремя подбородками и галстуком-бабочкой, рванул себя безжалостно за крахмальную манишку и рыдающе провозгласил: „Я не могу… Я не хочу этого… Розовое дитя, играющее погремушечкой… плакучие ивы, склоняющиеся к пруду… девочки в беленьких фартучках… Они читают стихи… они плачут… плачут!.. Над прекрасной строкой поэта… Я не желаю, чтобы электронное железо погасило эти глаза… эти губы… эти юные робкие перси… Нет, не станет машина умнее человека! Потому что я… потому что мы… Мы не хотим этого! И этого не будет никогда! Никогда!! Никогда!!!“ К нему потянулись со стаканами воды, а в четырехстах километрах над его снежными кудрями беззвучно, мертво, зорко прошел, нестерпимо блестя, автоматический спутник-истребитель, начиненный ядерной взрывчаткой…» (АБС)