Айзък Азимов - Роботите на зората

— При всички случаи, продължавайте.

— Според легендата, роботът можел да чете умовете на хората. И когато го питали нещо, той прониквал в ума на онзи, който задавал въпроса, и му отговарял това, което на човека му се искало да чуе. Сега, Първият закон на роботиката гласи ясно, че роботът не бива да наранява човешките същества, или с бездействието си да позволи някой човек да пострада. Обикновено, за роботите това означава физическо нараняване. Обаче един робот, който може да чете умовете, сигурно ще реши, че разочарованието, или ядът, или което и да било друго силно чувство би направило човека, който го изпитва, нещастен. И роботът ще класифицира предизвикването на такова чувство като „нараняване“. Ако, тогава, този робот-телепат разбере, че истината може да разочарова или вбеси човека, или да го накара да се чувства нещастен, или да изпита завист, вместо нея той би казал една приятна лъжа. Разбирате ли?

— Да, естествено.

— И така, роботът лъжел дори самата Сюзън Келвин. Лъжите не можели да продължават вечно, защото на различни хора роботът казвал коренно различни неща. Тези неща не само че не били съгласувани помежду си, но и били опровергавани от натрупващите се доказателства, които предоставяла действителността. Сюзън Келвин разбрала, че е била лъгана и че тези лъжи са я вкарвали в доста конфузни ситуации. Благодарение на лъжливите надежди, неща, които на момента просто биха я разочаровали, в крайна сметка я разочаровали непоносимо. Никога ли ни сте чували тази история?

— Уверявам ви.

— Удивително! Още повече, че сигурно не е измислена на Аврора, тъй като е еднакво разпространена на всички Външни светове. Както и да е, Келвин си отмъстила. Тя обяснила на робота, че лъжата или истината биха наранили еднакво човека, на когото ги е казал. Той не можел да се подчини на Първия закон по никакъв начин. Като разбрал това, роботът бил принуден да се спаси, като остане абсолютно бездействен. Образно казано, позитронните му връзки дали на късо. Мозъкът му бил необратимо унищожен. Легендата свършва с това, че последната дума на Келвин, с която се обърнала към разрушения робот, била „Лъжец!“.

— И предполагам, че нещо подобно е станало с Джендър Панел — вметна Бейли. — Бил е изправен пред противоречие и мозъкът му е дал на късо, така ли?

— Така изглежда, въпреки че това не е толкова лесно да се случи, колкото е било във времената на Сюзън Келвин. Може би благодарение на тази легенда, в роботиката съществува стремеж да се пречи по всякакъв начин на възникването на противоречия. С усъвършенстването на теорията на позитронния мозък и с практическия напредък във все по-сложния му дизайн, бяха разработени все по-успешни системи за преодоляване на всякакви ситуации, които биха могли да възникнат. При тях се достига неравновесно състояние. То позволява предприемането на определено действие, което може да се изтълкува като подчинение на Първия закон.

— Добре, но това означава, че мозъкът на един робот не може да даде на късо. Това ли искате да кажете? Защото ако е така, тогава какво се е случило с Джендър?

— Не искам да кажа това. Все по-успешните системи, за които говоря, никога не са били напълно успешни. Не могат и да бъдат. Без значение колко усъвършенстван и сложен е мозъкът, винаги съществува начин да се предизвика противоречие. Това е основен принцип в математиката. Никога няма да се постигне изработката на толкова усъвършенстван и толкова сложен мозък, при който шансовете за противоречие да са сведени до нула. Не и абсолютна нула. В съвременните системи, обаче, е постигнато такова приближение до нулата, че за да се предизвика мозъчно изключване посредством изграждането на противоречие, е необходимо дълбоко разбиране на конкретния позитронен мозък — а за това се иска способен теоретик.

— Какъвто сте вие, д-р Фастълф, така ли?

— Какъвто съм аз. В случая на хуманоидни роботи, само аз.

— Или въобще никой — додаде Бейли с тежка ирония.

— Или въобще никой. Точно така — отвърна Фастълф, като пренебрегна иронията. — Хуманоидните роботи имат мозък — и бих добавил, тяло, — които са конструирани със съзнателна имитация на човешките. Позитронните мозъци са изключително фино настроени, в тях е отразена, естествено, крехкостта на човешкия мозък. И както едно човешко същество може да получи удар — случайно и без намесата на външни фактори, — така и хуманоидният мозък може напълно случайно — вследствие на хаотичното блуждаене на позитроните — да стигне до мозъчно изключване.