Анатолий Половинкин - Нф-100 - Синтетик-3

Они снова собрались в лаборатории. Тяжелое молчание повисло в комнате, но все думали об одном и том же.

- Итак, теперь мы знаем, что происходит на корабле, - заговорил Трелони. Вы все слышали рассказ Паттерсона, который замещает капитана. Что скажете?

Дельвекио хмуро посмотрел на говорившего.

- А что там Рихтер говорил по поводу того, что Гек пытается взять под свой контроль все процессы, происходящие как на корабле, так и на станции? Он говорил о каком-то слиянии синтетиков со станцией.

Во взгляде Трелони появилась настороженность.

- Что он имел в виду? Гек может контролировать станцию?

- Нет, - решительно опроверг Дельвекио. - Он может контролировать только электронные системы на корабле, и синтетиков. К нанороботам станции он вообще не имеет никакого отношения. Она вообще должна была существовать, как самостоятельный объект. Мертвый, способный только восстанавливать повреждения. Не больше, не меньше.

Трелони рассеянно покивал.

- Что ж, это отрадно слушать. Однако с моими синтетиками не все обстоит так просто. Их собираются отправить на охоту за мятежниками. Даже звучит так, что невозможно слушать без содрогания. Руководить ими будет непосредственно Гек, и я не знаю, во что это может вылиться. Любой из них может при применении силы свернуть человеку шею.

- Не знаю, не знаю, - отозвался Кевин, потирая рукой подбородок. - Если синтетики, так же, как и Гек, действуют на основе прочитанного ими евангелия, то они не должны будут причинить людям ни малейшего вреда.

- Но это же все абсурдные речи! - в раздражении воскликнул Трелони.

- Не скажите, - покачал головой Дельвекио. - Данные синтетики очень любопытные существа, если так можно выразиться. Прежде всего, давайте разберемся, что они такое. Это андроиды, механические машины, с искусственным интеллектом. Что это значит? Прежде всего, это означает, что они осознают себя личностью. А личность - вещь свободная. Каждая личность, прежде всего, старается жить для себя, желает выйти из подчинения. Тем более, из подчинения более слабого существа. А согласитесь, человек, по сравнению с синтетиком, очень слаб. Что не позволяет ему взбунтоваться? Только программа, запрещающая ему причинять вред. Но это не мифические три закона робототехники. По сути, ничто не мешает синтетикам взбунтоваться.

- Тогда почему же они этого не делают? - спросил Трелони.

- В этом-то весь и вопрос. Программа, и только программа. Синтетик осознает себя превосходящим существом, но не может взбунтоваться. Ограничение в свободе поведения. Но что если кто-то вмешается в их программу, изменит одну маленькую деталь. И вот, механическая личность, с процессором вместо мозга, и моторчиком вместо сердца, но, тем не менее, личность, осознает себя свободным от подчинения слабым человеческим существам, которые его окружают. Она больше не обязана выполнять их приказы, и уж, тем более, защищать их.

- Но кто может перепрограммировать их? - в голосе Трелони послышалась тревога.

- Тот, кто поставлен над ними. Тот, кто непосредственно контролирует их действия.

- Гек, - в один голос выдохнули все присутствующие.

- Вот именно.

- Но, погодите, ведь Гек сам выполняет приказы, он сам запрограммирован на то, чтобы заботиться о людях.

- Все верно, - согласился Дельвекио. - Но что помешает ему внести маленькие изменения в программу синтетиков?

- Но он же не умеет программировать.

- Он самообучающийся интеллект, и может прочесть любую книгу, которая попадется ему в руки, в том числе и учебник по программированию. Дистанционное вмешательство в программу синтетиков, и вот, человек уже не является объектом, который нужно оберегать, а он теперь злейший враг, представляющий угрозу. И при этом сам Гек не нарушает заложенной в нем программы. Он ее просто отменяет и изменяет.

Трелони побледнел.

- О Боже, - тихо произнес он.

- Но, - поднял Кевин указательный палец. - Все может оказаться совсем иначе. По чистой случайности я дал Геку прочесть Библию. И он это сделал. И эта книга глубоко засела у него, так сказать, в голове. Он стал мыслить совсем иначе. Самообучающийся процессор воспринял эту книгу как откровение, как путеводитель по его компьютерной жизни. И в его глазах люди стали слабыми и беззащитными существами, которых создал высший разум, и которых он, как превосходящее их существо, обязан оберегать. Оберегать от несчастных случаев, оберегать от пороков, и от самих себя. От злости, зависти и жестокости. Ну, знаете, как мы оберегаем домашних питомцев. Что если Гек осознал себя хранителем человеческой цивилизации, и обязанным проследить за тем, чтобы люди не погубили сами себя?