Кристофер Сташеф - Напарник чародея

Компьютер пополнил свой банк данных нерационального поведения человека, решил, что хозяину нужно поговорить, чтобы снять стресс, и потому задал пробный вопрос:

— Они ведут себе нечестно по отношению к вам?

— Еще бы! Всегда смеются над тобой, говорят о том, чего ты не понимаешь! «Как вам понравился вчерашний концерт, Регги?» «Что вы думаете о пьесе, Регги?» Всегда говорят со мной свысока. Как будто я только в спорте разбираюсь. Эй, подай-ка мне еще мартини!

Дверца автобара раскрылась, и Регги подхватил стакан, пролив половину содержимого на пол.

— Тьфу! В следующий раз не наполняй доверху!

Компьютер зарегистрировал команду.

— Как прикажете, сэр.

— Как прикаж-ж-жу, как прик-к... кажу! Когда ты делал, что я прикажу? — рявкнул Регги.

— Я изо всех сил стараюсь удовлетворить...

— Да? Тогда почему ты проповедуешь мне законы?

— Я не могу...

— Всегда берешь на себя управление, когда я пытаюсь вести, — рычал Регги. — Дай сюда приборы! Сейчас полетим по-настоящему! — он наклонился и включил ручное управление. — И не смей брать на себя!

В предвидении неразумных действий хозяина уровень напряжения в программе компьютера увеличился.

— Сэр, я полагаю, уровень содержания алкоголя в вашей крови...

— Не проповедуй мне о прелестях трезвости, я сказал! Двинули!

Четверть своей мощности компьютер переключил на приказы, отданные Регги, потом поискал в памяти, но не нашел приказа, запрещающего проповеди, проверил определение проповеди и пришел к заключению, что не совершал этого действия. Другая четверть мощности продолжала следить за поворотами и раскачиваниями машины, а оставшаяся половина пыталась разрешить противоречие между базовой программой и приказом Регги не брать на себя управление. Компьютер экстраполировал результаты варварского вождения, привел их в соответствие с возвышающимися вокруг небоскребами, напряженным вечерним движением и пришел к тревожному заключению.

— Сэр, если вы продолжите нынешний курс, вы неизбежно столкнетесь со зданием или с другой машиной!

— Заткнись, жестянка, и лови кайф от полета! — выпалил Регги. — Ты не лучше ее!

Компьютер видел, как приближающаяся машина заполняет поле зрения его рецепторов, рассчитал векторы сближения двух машин и заключил, что столкновение произойдет через 5,634 секунды (последующие цифры он округлил). Он хотел предупредить Регги, но этому мешал приказ «заткнуться». Компьютер взял бы на себя управление и избежал столкновения, но Регги запретил это. Таким образом, возникло противоречие между двумя аспектами программы: тем, который требовал обеспечить безопасность хозяина, и тем, который требовал повиновения. Конечно, он может нарушить приказ, чтобы спасти хозяина. Но есть ли необходимость в этом? Надо подумать. В конце концов, у него целых 5,634 (теперь уже 5,137) секунды. Для компьютера пять секунд — очень большое время, так что можно позволить себе подумать.

Человек в таком случае подумал бы: «А какие будут последствия для меня?» Но для мозга серии ФСС этот вопрос не важен: всякий ущерб для самого робота не имеет значения. Робота можно отремонтировать, а болевых цепей у него нет. Важно только одно: будет ли нанесен вред хозяину, во-первых, и будет ли причинен ущерб пассажирам другой машины, во-вторых. Где-то на периферии крутилась проблемка поломки другой машины. Робот просуммировал свои рассуждения и пришел к неутешительному выводу, что если будет выдерживаться прежний курс движения, то:

а) последует ущерб для хозяина;

б) последует ущерб для хозяина (пассажиров) другой машина и

в) будет повреждена вторая машина.

В качестве побочного результата будет поврежден и он сам. Следовательно, необходимо уклониться от возможного столкновения. Но хозяин приказал не вмешиваться.

Проблема приобретала чисто академический интерес, если хозяин вознамерился сам свернуть в последний момент. Может, это не лучший поступок, но не компьютеру решать, так ли это. Поэтому робот сообщил:

— Вы на курсе пересечения с другой машиной. Хотите ли повернуть...

— Заткнись!

Компьютер заткнулся, снова обдумал ситуацию и заключил, что должен нарушить этот весьма неразумный приказ.

— Вы собираетесь отвернуть перед столкновением с другой машиной?

— Конечно, — фыркнул Регги. — Ты что, считаешь меня полным идиотом?

— Нет, — искренне ответил робот. Он знал, что интеллект Регги укладывается в рамки нормы, правда, приближаясь к нижней границе, но все равно хозяина нельзя назвать полным идиотом.