Айзък Азимов - Аз, роботът

Опитвахме се да им обясним. Но те винаги сочеха, че гама-лъчите са опасни за живота на човека, без да обръщат внимание на нашия аргумент, че човек може да стои половин час под такива лъчи без никаква опасност за здравето. Ами ако той забрави, казват, и остане цял час. Не, не можели да рискуват. Обяснявахме им, че, напротив, те рискуват своя живот, и то напразно. Но самосъхранението е включено едва в Третия закон на роботиката, а на първо място стои Първият закон — за безопасността на човека. Заповядвахме им, най-строго им забранявахме да влизат в полето на гама-излъчванията. Но подчинението е включено едва във Втория закон на роботиката, а на първо място стои Първият закон — за безопасността на човека. И се наложи да избираме: или да се откажем от роботите, или да се направи нещо с Първия закон. И ние направихме своя избор.

— Не мога да повярвам — каза доктор Келвин, — че сте решили да премахнете Първия закон.

— Той не е премахнат, а само изменен — поясни Калнър. — Бяха създадени позитронни мозъци, в които е заложена само едната страна на закона: „Роботът не може да причини вреда на човека“. Толкоз. Такива роботи не се стремят да предотвратят такава странична опасност за човека, каквато са гама-лъчите. Правилно ли изложих нещата, доктор Богърт?

— Напълно — съгласи се математикът.

— И това е единствената разлика между тези роботи и обикновения модел НС-2, така ли? Единствената? Кажи, Питър.

— Единствената, Сюзън.

Тя стана и каза твърдо:

— Сега смятам да спя, а след осем часа искам да поговоря с човека, който е видял последен робота. И оттук нататък, генерал Калнър, ако искате да поема някаква отговорност, трябва да ми дадете възможност да ръководя изцяло и безпрепятствено това разследване.

Ако не се смятат двата часа неспокоен унес, Сюзън Келвин не можа да спи. В седем часа местно време тя почука на вратата на Богърт и го свари също буден. Той не беше забравил да си вземе халата и сега беше облечен в него. Когато Келвин влезе, Богърт остави ножичките за нокти и каза меко:

— Аз всъщност те очаквах. Предполагам, че всичко това ти е крайно неприятно.

— Така е.

— Много съжалявам, но нямаше начин да се избегне. Когато ни повикаха на Хипербазата, веднага се досетих, че нещо не е в ред с модифицираните Нестори. Но какво можех да сторя? Въпреки че ми се искаше, не ти обясних нищо по пътя, защото все пак не бях напълно сигурен. Модификацията е строго секретна.

Доктор Келвин каза с половин глас:

— Трябваше да ме уведомят. Фирмата няма право да внася такива изменения в позитронния мозък без одобрението на робопсихолога.

Богърт вдигна вежди и въздъхна.

— Но помисли си, Сюзън. Тъй или иначе, не би могла да им въздействуваш. По този въпрос последната дума има правителството. То иска Хиператомен двигател, а етерофизиците искат роботи, които няма да им пречат на работата. И те държаха да имат такива роботи дори с цената на известна промяна в Първия закон. Ние се видяхме принудени да признаем, че от конструкторско гледище това е възможно. А те се заклеха сто пъти, че им трябват само дванайсет робота, които ще бъдат използувани само на Хипербазата и ще бъдат унищожени, щом завърши работата по двигателя. И че ще бъдат взети всички предпазни мерки. При това настояваха да се запази пълна тайна. Такова е положението.

— Ако знаех, щях да подам оставка — процеди през зъби доктор Келвин.

— Това не би помогнало. Правителството предлагаше на фирмата цяло състояние, а в случай на отказ заплашваше да приеме законодателни мерки за забрана на роботите. Нямахме друг изход, а и сега нямаме. Ако всичко това се разбере, Калнър и правителството ще загазят, но фирмата ще загази два пъти повече.

Келвин го погледна право в очите.

— Питър, нима не разбираш за какво става дума? Даваш ли си сметка какво означава робот без Първия закон? Въпросът не е само в секретността.

— Зная какво означава това, не съм дете. Пълна нестабилност, но при съвсем определени решения на уравненията на позитронното поле.

— Да, от математическо гледище. Но опитай се да го преведеш, макар и грубо, на езика на психологията. Всичко, което съдържа някакъв живот в себе си, възстава — съзнателно или несъзнателно — против всякакво господство. А още повече ако това господство се упражнява от по-низше или възприемано като по-низше същество. Физически, а в известен смисъл и умствено роботът — всеки робот — стои по-високо от човека. Защо тогава той се подчинява на човека? Само благодарение на Първия закон. Без този закон още първата заповед, която се опиташ да дадеш на робота, ще доведе до твоята гибел. Нестабилност, казваш. Как си представяш това?