Валерий Сабитов - Программа «Альтер-Эго» [SelfPub]

Перевод В. Державина

У дома к ним присоединились люди, каким-то образом осведомлённые о застольной беседе. Все оживлённые, заинтересованные, сочувствующие пришельцам. Гариб передал Гинве: «Прости, но я отключусь от внешнего мира. Пусть разговор с людьми ведёт Дарко. Помоги ему, ты сможешь…» И погрузился в себя. Параллельно внешним вниманием, не вдумываясь, фиксировал мысли-слова вокруг. Люди Анклава, прежде чем сказать, представляли себя. Неплохо, после в памяти легче будет разобраться в нюансах.

— Я Мусей, перебежчик из Фонзы. Существуют ли у вас хакеры? Способные изменить поведение роботов по своему желанию? По каким алгоритмам действует ваш ИскИн?

— Я Дарко. Хакеры — пережиток прошедших времён. Хакерство имело смысл на начальном уровне программирования. ИскИн такое вмешательство легко распознаёт и блокирует. Алгоритмы основаны на математических логиках и формализованном древнем языке Санскрит.

— Я Мусей. Это значит, у вас есть ИскИн, который делает хорошо. Хороший ИскИн. И такой, который творит неугодное людям Фонзы. Ведь всем не угодишь? Или вы уговариваете его на хорошие дела?

— Я Гинва. Да, часто людям сегодня бывает нужно то, что завтра противно как минимум. К тому же нужное мне не нужно другому. Если ИскИна можно уговорить, он будет непрерывно колебаться между множеством желаний одного или многих людей. А при наличии постоянного канала связи…

— Я Алекс. Читал Азимова, который придумал первые законы для роботов при людях и для людей при роботах. В его произведениях люди предсказуемы, поверхностны, и, по большому счёту, роботизированы. Между такими «одномерными человеками» и роботами вполне возможно логическое взаимопонимание.

— Я Лифан. Условность, наложенная на условность…

— Я Дарко. А у меня задача — представить возможную реальность.

— Я Лифан. Таких вариантов фантастами рассматривалось множество, и в каждом свои недостатки. Мы здесь читаем книги… Верно было замечено — добро и зло не алгоритмизуются. Само по себе человечество неспособно прийти здесь к однозначности…

— Я Дарко. Это есть анархия. В обоих мирах — человеческом и ИскИновском. Хаос! В нём нет будущего. ИскИн по сути отвергает активное человеческое присутствие рядом с собой. Человек при ИскИне теряет возможности самоуправления. Договор? Звучит сомнительно и смешно. Противоположности несовместимы? Избран нереальный путь?

— Я Лифан. Хаос может носить вполне упорядоченный характер. Если ИскИн не придёт к выводу, что человек вреден сам себе, — о чём частично говорит второй закон Азимова, — ничего страшного не произойдёт. «Клетку для орхидей» читали? Но скорее всего ИскИн просто не найдёт логического решения проблемы и тихо самоуничтожится — как это уже случалось у Отца Айзека.

— Я Дарко. Надуманные решения и меня не удовлетворяют. Самоубийство — результат психоненормальности. Кто её заложит в ИскИн, который способен оценить свою программу и сделать её максимально гибкой и безопасной? А законы Азимова, как мы выяснили, не работают. Их включить в программу невозможно. Это всё равно, что вместо программы использовать неструктурированные знания.

— Я Лифан. Я рассуждаю в рамках человеческой логики. Она предполагает самоубийственное решение. Точнее — самоуход, возможно просто в себя или в виртуальный сон, к примеру. Оставив человеку возможность манипулирования своими распавшимися частями: связь, справочные материалы, решение текущих технологических задач. Как способ лишить себя самой возможности навредить человеку.

— Я Дарко. Чисто человеческое решение — пожертвовать собой ради близкого. У ИскИна есть душа? Сердце? Ведь не холодный, — или горячий, неважно, — мозг рождает такие преимущественно эмоциональные намерения. Тем более — несовершенная, просто быстрее считающая, копия мозга.

— Я Лифан. Нет. Чистая логика. Законы предписывают то–то и то–то, я не могу логично решить задачу, так как исходные данные дают противоречивые результаты, привести решение к непротиворечивости я не могу…

— Я Дарко. Опять человеческая логика. Вы здесь далеки от нашего мира. Машина перебором вариантов найдет лучший для неё и человека выход. И гарантированно сохранит себя. Но будет ли это прогрессом в нашем или вашем понимании? И почему ваше понимание для нас или вас наилучшее? Много «почему» встаёт передо мной.

— Я Лифан. Ну я же описал как раз такую ситуацию! Временное самоустранение. И он продолжает накопление и обработку данных. Или нет?