Федор Вениславский - Шахматная доска роботов

Стив обреченно опустил голову. Глубоко вздохнул и продолжил:

– Я пришёл к Эдгару, потому что за последний год он стал моим близким другом, которому я мог доверять. Мне больше не с кем было поделиться своими переживаниями, а они у меня до сих пор такие, что не передать словами. Ведь я собственноручно помог запустить этот бесчеловечный механизм. И я пришёл выговориться к Эдгару. Я тогда не думал, что они приспособили робота-юриста к жизни инженера, но теперь понимаю, что это не сложно. Просто заменили знание законов на знание техники и электроники, изменили у него алгоритм, вот и все. Сейчас то я анализирую, что если робот был запущен год назад, то и с Эдгаром я познакомился приблизительно тогда же. Это подстроила корпорация, когда перевела его под моё прямое руководство. Они хотели, чтобы он взаимодействовал и развивался близко к одному из своих создателей, но, чтобы никто из нас не знал правды. Робот не знает, что он робот. Он убеждён, что он человек. Ранее у нас с ним не было неординарных ситуаций. Я, бывало, жаловался ему на свою жену, которая меня бросила, а он, согласно смоделированным ему реакциям, вроде бы жалел и поддерживал меня… Но, когда я рассказал всё, что обнаружил, он попытался приободрить меня, убедить, что такое невозможно и я ошибаюсь. Он вообще был весёлым парнем. И как-то я и сам не заметил, что в шутку сказал, что каждый может быть роботом. Что он сам может быть роботом, а я этого и не знаю. Вот тогда он и повёл себя крайне странно. Около минуты он стоял на месте, словно отключившись, я забеспокоился, что с ним произошёл какой-то припадок, но затем он словно очнулся и сразу же накинулся на меня. Попытался схватить. Я еле смог сбежать. После чего он пришёл к руководству Justice-Tech и сдал меня. Я был схвачен, помещён сюда. Не могу быть до конца уверен в причинах, почему у него произошёл сбой, но это случилось, и он стал опасен.

– Объясни поподробней, – попросил я. Услышанное не укладывалось в моей голове, если он был прав, то мир словно переворачивался с ног на голову и мои худшие опасения, которые я упрямо не впускал в область моего мозга, отвечавшие за правду, подтверждались.

– Понимаешь ли, они живут в равновесии. В своём мире. В мире, который состоит из юриспруденции для юристов, в мире технологий и символов для инженеров. Когда-то ты был одним из тестеров роботов, сейчас я вспомнил. Вы ставили им юридические ситуации, из которых они не находили выхода. Когда нашли – мы поняли, что создали идеального робота-юриста. Но жизненная среда людей намного сложнее понятных и логичных законодательных актов. Если робот столкнётся со стечением определённых жизненных факторов и обстоятельств, на которые у него не запрограммирована или ещё не выработана в процессе самообучения по аналогии и логики реакция, согласно человеческим психоданным, его система не выдержит нагрузки, как было во времена, когда вы их тестировали, и он может довести себя до самоуничтожения.

– В каком смысле самоуничтожения?

– В прямом. На создание идеального интеллекта для машины, которая бы смогла абсолютно уживаться с людьми могут уйти года. Десятилетия. Но на создание им настоящих чувств – целая бесконечность. Люди рождаются с разным набором предрасположенностей к тем или иным чувствам. Именно благодаря чувствам люди не предсказуемы. И когда мы пытаемся поиграть в Бога и привить чувства роботам, мы потерпим неудачу. И наша неудача делает роботов непредсказуемыми – они не знают, какую модель поведения выбрать, в них не заложена информация как человек поступил бы, доверяя своим эмоциям. Они могут быть даже опасными в некоторых ситуациях, правда, я не могу с уверенностью сказать в каких. Наверное, в тех, из которых не могут найти выхода. Тогда их действия не поддаются никаким прогнозам. Эдгар не смог найти выход из ситуации, когда я рассказал ему о своём открытии, а затем пошутил, что он может быть одним из роботов. Его система не нашла выход. Включилась программа самозащиты, он воспринял информацию как угрозу своей системе, следовательно, и меня воспринял как угрозу, потому напал на меня.

– Как я смогу убедиться, что он робот?

– Определить только можно будет в сфере, касающейся его чувств. Мы запрограммировали в интеллект набор стандартных ситуаций, которые он якобы пережил. Попытайся расспросить его об этом, а, получив ответы, узнай – почему именно так.

– Какие вопросы? – спросил я. Я всё ещё ему не верил, но попытаться проверить стоило.