Конни Уиллис - Дилемма

Достигается это благодаря программному обеспечению, которое позволяет нам в случае необходимости принимать решения, в то время как роботы предыдущих поколений в подобных ситуациях просто отключались.

— Как произошло в роботом Шустриком в вашем прекрасном рассказе «Бег по кругу», — прокомментировал установщик книг на полку. — Его послали выполнить поручение, в результате чего Шустрика ждала неминуемая смерть, вот он и бегал по кругу, декламируя не пойми что, потому его программа не позволяла как выполнить, так и не выполнить приказ хозяина.

— С заложенной в нас многовариантностью, — добавил бухгалтер, Девятое поколение может найти альтернативный план или выбрать меньшее из двух зол.

В нас установлены новейшие лингвистические системы, поэтому мы всегда правильно истолковываем ситуацию и не становимся жертвой семантических дилемм, как это случалось с роботами прежних моделей.

— Как в вашем великолепном рассказе «Маленький потерявшийся робот», напомнил установщик книг на полку, — в котором роботу сказали: исчезни. И он исчез, не понимая, что человек, обращавшийся к нему, говорил фигурально да еще со зла.

— Понятно, — кивнул Азимов. — Но, допустим, вы неправильно истолкуете ситуацию, установщик книг на полку, составитель библиотечного каталога, читатель, рецензент и фило… Нет у вас какого-нибудь прозвища или чего-то такого? Очень уж длинное у вас название.

— У более ранних роботов были прозвища, которые основывались на первых буквах порядкового номера, совсем как в вашем замечательном рассказе «Причина», в котором робота QT-1 называли Кьюти. У роботов Девятого поколения нет порядковых номеров.

Каждый из нас программируется индивидуально и называется по своим основным функциям.

— Но вы же не можете называть себя составитель библиотечного каталога, установщик книг на полку, читатель, рецензент и филолог?

— О нет, сэр. Мы даем себе имена. Я — Дарий.

— Дарий? — переспросил Азимов.

— Да, сэр. Я взял себе имя Дария Справедливого, писателя и детектива из вашего превосходного детективного романа «Убийство в „АБА“». Я буду счастлив, если вы станете называть меня этим именем.

— А меня вы можете называть Бел Риоз, — предложил статистик.

— Из «Академии», — тут же напомнил установщик книг на полку.

— Бел Риоз охарактеризован в первой главе как «равный Пьюрифою в стратегических способностях, но превосходящий его в умении руководить людьми», — добавил статистик.

— Вы все берете себе имена персонажей моих книг? — спросил Азимов.

— Разумеется, — ответил установщик книг на полку. — Мы стараемся соответствовать им. Вот медицинский помощник называет себя доктором Дювалем из «Фантастического путешествия», потрясающего, кстати, романа, очень динамичного, захватывающего внимание читателя с первой же страницы.

— Роботы Девятого поколения иногда могут неправильно истолковать ситуацию, — бухгалтер вернулся к вопросу, заданному Азимовым. — Как случается и с людьми, но даже без Первого Закона наши действия не могут представлять опасности для человеческих существ. В наши программы заложены очень строгие моральные принципы. Я знаю, вы не обидитесь, если я скажу…

— Разумеется, вы не можете этого сказать. Первый Закон такого не допускает, — прервал его доктор Азимов.

— Да, сэр, но я должен сказать, что все Три Закона очень примитивны. Они нарушают первую заповедь логики и законотворчества тем, что не оговаривают условий, при которых действуют. Наше моральное программирование куда более прогрессивное. Оно определяет цель всех Трех Законов и перечисляет все исключения из них, к примеру, ситуацию, когда лучше схватить человека и, возможно, сломать ему руку, чем позволить ему перелезть через монорельс перед мчащимся поездом.

— Что-то я вас не понимаю, — покачал головой Азимов. — Если у вас такое сложное программное обеспечение, почему оно не может истолковать цель Первого Закона и действовать в полном соответствии с этим толкованием?

— Три Закона заложены в аппаратные блоки, поэтому переступить через них нельзя. В Первом Законе не сказано: «Вы можете причинить человеку минимальный вред ради того, чтобы спасти ему жизнь».

Первый Закон гласит: «Нельзя причинять человеку вред». То есть второго толкования тут быть не может.

Вот медицинский помощник не может быть хирургом, а статистик не может разрабатывать атакующие схемы.

— А кем хотите быть вы? Политиком?