Федор Вениславский - Шахматная доска роботов

– Нулевая.

– Но он вновь совершил действие.

– Это не было действие подобно первому, потому нельзя сказать, что он нарушил наши указания, – возразил Купер.

– Мы не можем просчитать бесконечное множество возможных ситуаций, которые могут возникнуть и запретить ему всё это, – в моем голосе было мало терпения, и Купер, судя по всему, понимал это, – теперь же он создал ботов, он смог действовать внутри «Нор», не только просматривать её. Пока не будем говорить о логике его размышлений и чем он руководствовался, совершая это. Мне нужно знать, как он смог действовать внутри Сети.

– «Нор» недоступна извне, но он существует внутри неё. Я думаю это можно объяснить тем, что он имеет доступ ко всем свободным ячейкам в Сети, внутри которых и создал ботов.

– Хорошо. Вспомни, что ты ответил мне в прошлый раз, когда я спросил тебя может ли он вступить в контакт с людьми?

Купер промолчал. Он не стал врать, или говорить, что не помнит. Он прекрасно помнил свой ответ тогда: «Абсолютно нет».

– Скажи мне Дастин, как он, имея прямой запрет на подобные действия, вышел на контакт с человеком?

– Теоретически, вступил в контакт не он, а бот, которого он создал.

– Купер! – я повысил свой голос, – отвечай мне как Симон смог нарушить наш запрет?

– А ты уверен, что он сказал нам правду?

Вопрос Купера осадил меня и ввёл в замешательство. Что он имел в виду?

– Что ты хочешь этим сказать, что Симон нам соврал?

– Он анализирует и наблюдает. Возможно, он хотел увидеть твою и мою реакцию. Потому я и вёл себя так спокойно, я не думаю, что он действительно сделал это. Симон не способен обходить системы, которыми мы ограничили круг его действий.

– Купер, – я подошёл к нему ближе, – неправду говорят только люди, а не машины.

– А может ли машина перенимать поведение людей, как думаешь? Был ли ты всегда с ним честным? Всегда ли говорил правду? Может ты однажды соврал ему, или был неискренен?

– Дастин, не нужно уводить разговор в сторону. Симон – это машина. Машина, которая создана для того, чтобы помогать нам, людям, в работе. И даже, если ты прав, и он нам соврал – это переходит все рамки. Его задача – анализировать, не более.

– Задача твоего компьютера на столе – анализировать, не более, – резко ответил мне Купер, – Симон это нечто большее, чем машина, ты это прекрасно знаешь.

– Я знаю лишь то, что наша деятельность ведётся на самой грани дозволенного и запрещённого, и если мы не можем контролировать Симона, то сорвёмся в пропасть вместе с ним, а заодно потянем вниз руководство ООН и ряда государств. Ты хоть представляешь, какие могут быть последствия всего этого?

– Ты думаешь, что Симон настолько туп, чтобы разоблачит себя?

– Пока я думаю, Симон делает. И делает то, что никак не укладывается в моей голове. Одно из двух. Либо он становится неподконтрольным, либо ты ему помогаешь в этом. Ни один из вариантов меня не устраивает.

Купер нахмурился и огорченно покачал головой:

– Ты меня обвиняешь?

– Ты его создатель, и ты должен знать лучше всех, на что он способен. Если ты не можешь объяснить и предсказать его действия, необходимо принимать соответствующие меры.

– Дай мне немного времени, – подумав, сказал Купер, – я разберусь во всём.

– Времени у тебя действительно немного, Дастин.

Разговор был окончен, Купер ушёл к себе в кабинет, я вновь запустил электронику.

Первым делом я решил проверить слова Купера – мог ли Симон сказать неправду об успешном общении с человеком, чтобы я был более сговорчив в реализации его идеи, которая ему показалась чрезвычайно успешной для её внедрения. О том, что если это правда и робот применил ко мне метод манипуляции, думать было рано.

Я зашёл в систему наблюдения «Нор». Гражданин Мэтью Грайноу, код #3758. Я включил поиск по камерам наблюдения – где сейчас Мэтью. Через десять секунд мне вывело картинку. Система определила на какой из камер сейчас он был. В торговом центре «Uni-Plaza Mall». В магазине обуви он вместе с некой девушкой стоял у кассы. Я зафиксировал камеру на его спутнице и нажал на поиск. Карла Нюмен, код #0924. Я выбрал функцию компоновки информации о ней, в открывшейся вкладке нажал «личные отношения». Несколько секунд загрузки и компьютер подал мне текст для чтения. Карла находилась в гражданском браке с Мэтью на протяжении последних шести лет. За этот период у них произошло четыре крупные ссоры, последняя около трёх недель назад. Карла выгнала Мэтью из дому, выкинув ему из окна все его вещи. Но вчера они вновь сошлись – Мэтью пришёл к ней, чтобы помириться, она его простила.