Робърт Шекли: Страж-птица

— Не това имам предвид — отвърна Гелсън. Едва сега осъзна, че желаеше някой да разбере гледната му точка. — Искам да кажа, дали не смяташ, че в мислещите машини може да се крие някаква опасност.

— Не мисля така, шефе. Защо питаш?

— Виж, аз не съм учен, нито инженер. Просто се заех с икономическите въпроси около производството им и ви оставих да се грижите за останалото. Като непредубеден човек обаче страж-птиците започват да ме плашат.

— Няма причини за това.

— Не ми харесва идеята за самообучаващите се схеми.

— Защо? — миг по-късно Макинтайр се усмихна отново. — Знам. Ти си като другите хора, шефе, страх те е, че машините могат да се събудят и да кажат: „Какво правим тук? Я да поемем управлението на света в свои ръце.“ Така ли е?

— Може би има нещо такова — призна Гелсън.

— Това е изключено — каза Макинтайр. — Страж-птиците са сложни устройства, но един компютър в Масачузетския технически университет е много по-сложен. А той няма никакво съзнание.

— Няма. Но птиците могат да се самообучават.

— Естествено, както могат и всички нови компютри. Нима мислиш, че те ще се съюзят с тях?

Гелсън се ядоса на Макинтайр, а още повече на самия себе си.

— Известно е, че страж-птиците могат да прилагат на практика наученото. И никой не ги контролира.

— Ето какъв бил проблемът — рече Макинтайр.

— Мислех да се откажа от производството на птици-стражи — едва сега Гелсън си даде сметка какво искаше.

— Слушай, шефе — каза Макинтайр. — Искаш ли да знаеш мнението на един инженер?

— Нека да го чуем.

— Птиците не са по-опасни от лека кола, компютър на IBM или термометър. Те имат точно толкова собствено съзнание и воля, колкото и тези неща. Конструирани са да отговарят на дадени сигнали и да извършват определени действия, когато получат тези сигнали.

— Ами самообучаващите се схеми?

— Без тях не може — заяви спокойно Макинтайр, сякаш обясняваше на десетгодишно дете. — Предназначението на страж-птиците е да осуетят всички опити за убийство, нали? Е, обаче само някои убийци излъчват такива сигнали. За да бъдат спрени всичките, птиците трябва да търсят нови определения за убийство и да ги допълват към онези, които вече знаят.

— Мисля, че това не е човешко — възрази Гелсън.

— И тъкмо това му е най-хубавото! Страж-птиците нямат чувства. Те не разсъждават като хора. Човек не може да ги подкупи, нито да ги упои. Но също така не трябва да се страхува от тях.

Интеркомът на бюрото изписука. Гелсън не му обърна внимание.

— Всичко това го знам — рече той. — И все пак понякога се чувствам като този, който е открил динамита. Мислил е, че ще бъде използван само за разбиване на пънове.

— Ти обаче не си изобретил страж-птиците.

— Но съм морално отговорен, че ги произвеждам.

Интеркомът изписука още веднъж и Гелсън натисна раздразнено един от бутоните.

— Пристигнаха отчетите за първата седмица от работата на страж-птиците — съобщи секретарката му.

— И как изглеждат?

— Чудесно, сър.

— Изпрати ми ги след петнайсетина минути — Гелсън изключи интеркома и се обърна отново към Макинтайр, който чистеше ноктите си с клечка кибрит. — Не смяташ ли, че това е типична черта на човешкото мислене? Машината-бог? Електронният баща?

— Шефе — отвърна Макинтайр, — мисля, че трябва да се запознаеш по-подробно с устройството на птицата. Знаеш ли какво е вградено във въпросните схеми?

— Само най-общо.

— Първо, там е заложена цел. Да се попречи на живите организми да извършват убийство. Второ, убийството може да се определи като акт на насилие, включващ счупване, осакатяване, изтезаване или спиране по друг начин на жизнените функции на един жив организъм от друг жив организъм. Трето, повечето убийства могат да бъдат засечени по дадени химически и биоелектрически промени. — Макинтайр спря, за да запали нова цигара. — Такива са условията, които определят основните функции. Освен тях, има още две специално за самообучаващите се схеми. Четвърто, срещат се живи организми, които могат да извършат убийство, без да са налице признаците, споменати в условие три. Пето, последните могат да се разпознаят въз основа на данни, отговарящи на условие две.

— Ясно — кимна Гелсън.

— Разбираш ли как е обезопасено всичко?

— Допускам, че е тъй — Гелсън се поколеба за момент. — Предполагам, че няма друго.

— Да — рече инженерът и излезе.

За известно време Гелсън остана замислен. В страж-птиците не можеше да има нищо опасно.