Анатолий Шалин - Новой, улучшенной конструкции

— Сначала о деле, — сказал он. — Зачем я понадобился тебе на этот раз? Я ведь предупредил, Вася, что больше не собираюсь участвовать в твоих домашних кибернетических изысканиях. Утюгу хватает усовершенствований, лучше займись своим здоровьем!

Улыбка на лице Василия медленно погасла.

— Во-первых, Климентий Иванович, я не Вася, до последнего времени меня обычно называли Утюгом, во-вторых, это не Василий, а я вызвал вас сюда. Вы уж простите мне этот небольшой маскарад.

— Что? Что ты говоришь? Ты не Василий? — Клим лихорадочно соображал. «Может, он перегрелся на Юге…»

— Нет, я не хозяин и не сошел с ума! Просто ваш план осуществляется. Моему хозяину удалось превратить меня в самосовершенствующийся аппарат. В общем, я теперь уже не робот, в обычном смысле этого слова, но и не человек.

— Ты, Утюг? — Клим дотронулся до руки своего собеседника. Почувствовал твердость стальных мускулов робота и ему стало неуютно.

«Робот ведет себя странно, — подумал он. — Где Василий? Что произошло? Почему он меня не встретил?»

— Где твой хозяин? — спросил Клим.

Утюг расплылся фальшивой обороткинской улыбкой.

— Вечно вы, люди, спешите, нервничаете и делаете глупости. С хозяином все в порядке, он в мастерской…

— Я заходил в мастерскую, его там не было!

— Вы его не заметили, он там. Сейчас объясню. Я уже докладывал хозяину и вам, я теперь не совсем робот, точнее, я — сверхробот.

— Что ты понимаешь под словами робот и сверхробот?

— Ну, это просто. За эти шесть недель я перевернул кучу литературы по философии, кибернетике, биологии, медицине и еще тысяче отраслей знания. Скорость моих реакций при необходимости может в тысячи раз превосходить скорость двигательных реакций человека, поэтому за сравнительно небольшой период времени мне и удалось в своем развитии опередить человечество на тысячи лет. Разобраться в тех примитивных системах, которые вы называете роботами, для меня не представляет большого труда. Между мною и роботами примерно такая же разница, как между человеком и мартышкой. Понятно?

— Не совсем! — Клима уже начал раздражать самоуверенный тон Утюга, тем более что в этой самоуверенности отчетливо проступал нахальный характер Василия Обороткина, правда, в несколько карикатурном оформлении. Клим не сомневался, что перед ним просто зарвавшийся робот, подражающий повадкам своего хозяина.

— Это же ясно! — вещал Утюг. — Роботы — всего лишь машины, созданные для выполнения каких-либо человеческих функций, которые в силу той или иной причины вам самим выполнять не хочется. Вот эти-то второстепенные функции вы и поручаете роботам. Они ваши механические помощники. Теперь допустите возможность того, что создан робот, который выполняет не только эти второстепенные функции, а может делать все, что умеет человек, и даже значительно больше.

— Утюг, это уже мания величия! Возможно, в технике и науках ты кое-что и умеешь, но я уверен, что такие области знаний, как искусство, литература, тебе не по зубам. Да и эмоциональная сторона человеческой деятельности от тебя ускользает. Допускаю, что теперь ты умеешь многое, ну и что? Какие у тебя цели? Что ты можешь без Василия? Без его желаний, без его задач? Ведь смысл существования любого робота заключается только в том, чтобы способствовать процветанию человечества. Это аксиома. Как бы ты ни расписывал свое могущество, без человека ты ничто!

— Вы правы, мне по-прежнему нужен человек-руководитель. Но я совсем не хотел говорить о своем могуществе, я хочу говорить о вашей слабости. Ведь согласитесь, что если мною будет командовать человек со множеством недостатков, недостатков именно с чисто человеческой точки зрения, то в один прекрасный день он может с моей помощью натворить такого, что приведет к неисчислимым бедствиям для человечества.

Клим задумался. Последняя фраза Утюга говорила о многом. Робот допускал: его деятельность может принести людям вред… Но ведь первое ограничение для любого робота — это невозможность причинения вреда человеку. Неужели, создавая саморазвивающегося робота, мы каким-то образом сняли указанное ограничение? Или в ходе развития оно само по себе переросло в новое качество? Ведь Утюг, кажется, уже не считает себя роботом, а следовательно, отрицает все ограничения программ, применимых к роботам. Если это так, то передо мною чудовище, с которым вести себя нужно очень осторожно. Что он мог сделать с Василием? Клим почувствовал легкий холодок в спине и, стараясь казаться спокойным, сказал: