Дмитрий Сергеев - Прерванная игра

- Чуть ли не ежедневно я подвергал себя опасному излучению. Никакие меры предосторожности не давали полной защиты. С мыслью о скорой смерти я примирился. Жалею только об одном; моей жизни не хватит завершить начатое. Это сделаешь ты. Все мои расчеты и планы спрятаны в сейфе, про который никто не знает. Ключ от него я передам тебе. Но без помощи Машины и ты будешь бессилен завершить начатое. Поэтому я принял меры, чтобы хозяином положения на планетоиде стал ты. Мне пришлось поступить незаконно. Я уверен, что совет Карста не посчитался бы с моими желаниями. Эти пустоголовые тупицы определят на должность старшего мантенераика какого-нибудь идиота, умеющего быстрее других считать. Выслушай меня внимательно, я хочу объяснить тебе, почему поступаю вопреки законам. Тебе известен важнейший правовой принцип, которым руководствуются на Карсте. "Любое возможное разногласие разрешается в пользу большинства. Одиночные желания и мнения при выборе решения не учитываются".

- Мне кажется, это справедливый закон, - сказал мальчик.

- Так же считал и я, пока... Пока мои собственные желания совпадали с желаниями большинства. Обещай ничего не предпринимать раньше, чем возвратишься с Земли. От того, что пароль будешь знать ты один, никто не может п;эстрадать. Чтобы обрести самостоятельность. Машине необходим длительный срок. Я намеренно оставил ей возможность саморазвития. Но только возможность. Чтобы она проявилась, в мозг Машины необходимо ввести новые знания. Сейчас она знает лишь самое необходимое, достаточное, чтобы справляться с обслуживанием жилых отсеков и подсобного хозяйства. Разделительные барьеры между двумя блоками мозговых клеток поставлены умышленно - нельзя допустить, чтобы все тридцать шесть миллиардов ее нейронов работали слаженно, никем не контролируемые. Но ей оставлена единственная лазейка. Отыскав ее, Машина может выйти из повиновения.

Спросишь: зачем было идти на такой риск? Видишь ли... Мне нужна была не просто счетная машина, но думающая. Полностью контролируемая машина не способна думать, она может только считать, пусть с баснословной скоростью, по дьявольски сложной программе, но - только считать. Машина, созданная мной, рассчитана на полную самостоятельность. Но это лишь в будущем. Пока она всего лишь тупой, идиотски точный счетчик.

-- Когда же она научится думать?

- Не раньше чем поставит себе собственную задачу. Для этого нужно время. Его можно сократить, если в ее мозг ввести дополнительные знания. Потребность приобретать знания задана ей. Но до поры я сознательно ограничил норму информации, держу ее на пайке. Я не хочу, чтобы Машина обрела самостоятельность раньше, чем возвратишься ты и сможешь направлять ее действия. Секрет, как сохранить над нею власть, я передам тебе. Если ей дать полную волю, она способна наделать бед.

- Но почему? Разве в ее программу не заложены шесть основных правил гуманности? Мы проходили это еще в начальной школе.

- Меня радует твоя любознательность. Ты прав: шесть принципов гуманности заданы ей как обязательная норма она не может причинить вред человеку или замыслить что либо во вред ему. Но... Нельзя преступить только законы природы, но не юридическую норму. Попытаюсь объяснить тебе, почему Машина может стать опасной, только для этого придется отвлечься.

Стерший мантеиераик приказал мне выдвинуть из стены два кресла. В одно сел сам, в другое усадил племянника. Разговор этот становился мучительно интересным для меня. Полная запись его хранится в глубинном блоке долговременной памяти, я могу воспроизвести ее полностью, если это необходимо.

Я сказал;

- Необходимо.

Минуту спустя я услышал голос Виктора, записанный на пленку:

- Человечеству угрожает гибель. На первый взгляд это может показаться парадоксальным: мы научились создавать условия, необходимые для жизни даже в космосе, могущественная техника с избытком обеспечивает наши потребности в энергии и продовольствии... Но именно это и погубит нас: нам не к чему стало стремиться. К такому убеждению я пришел давно. Я пытался растолковать опасность -Меня не захотели слушать. И тогда я задался целью спасти человечество в одиночку.

- Но почему... почему человечество должно погибнуть? - перебил Виктора племянник.

Голос мальчишки был поразительно знаком мне, как будто эти слова произнес я сам. На мгновение память озарила вспышка ясновидения: я увидел этот же самый зал и Виктора, сидящего на стуле. Тыльной стороной руки мантенераик вытер капельки пота, выступившие на лбу.