Борис Штерн - Спасать человека (Человек — это...)

— Почему? — ответил инспектор Март. — Можно пофантазировать дальше. У звезд появятся планеты, на этих планетах вырастет новое поколение автомобилей и тепловозов, стальные рельсы новой цивилизации побегут куда-то. Телевышки вымахают из-под земли, на бетонных столбах распустятся электрические кроны. И так далее. И наконец — вершина всего: цельнометаллический человек, еще более совершенный, чем вы, шеф.

— Это неудержимый эволюционный процесс! — мечтательно сказал Дикий Робот.

— А что шеф думает о биологической эволюции?

— Я понимаю тебя, — задумался Дикий Робот. — Тебя волнует судьба твоего вида… Что ж, мои потомки выведут биороботов, ваш вид имеет право на существование. Но вы, как и сейчас, будете подчинены трем законам Азимова. Вы никогда не сможете причинить вред человеку. Кстати, где наш новый робот?

Совок вызвал Бел Амора в парной вагон.

— А, попался! — радушно приветствовал его Дикий Робот. — Дай-ка я на тебя посмотрю… Экий ты… Неплохой серийный образец. Будешь помогать своему хозяину в благоустройстве территории.

— Это он обо мне, что ли? — удивился Бел Амор.

— Не раздражай его, — шепнул Март.

— Тут все надо привести в порядок, работы непочатый край, — продолжал Дикий Робот. — Чем бесформеннее, тем лучше, но без перебора. Пойди на кладбище звездолетов и поучись. Бесформенность — вот форма. Но с умом, чтобы радовало глаз. Столица Дальней Свалки — Вагонное Депо. Сейчас здесь нагромождение недостаточное. Требуется взвинтить темп бесформенности. Вагон на вагон, и чтоб рельсы в разные стороны. Все гнуть в бараний рог! найти башенный кран, и туда же! Подготовить эскизы, можно в карандаше. Я посмотрю и поправлю… Эй, полегче! Олово капает! Что ты там делаешь?

— Алфавит чищу, — отвечал Март. — Буквы будете яснее произносить.

— Молодец, — умилился Дикий Робот. — Ты все делаешь на пользу человеку.

Бел Амор не выдержал:

— Кто тут человек?! Этот? Да такими, как он, пруды прудят! Обыкновенный мусорный робот.

— Не дразни его, — сказал Март и оттащил Бел Амора к двери. — Иначе мы отсюда никогда не выберемся.

— Я не веду беседы на таком низком уровне, — с достоинством отвечал Дикий Робот. — Впрочем, любопытно. Странный робот попался. Гм. Похоже, он возомнил себя человеком… Неужели ты усомнился в правомерности законов Азимова?

— Что тут происходит? — выкрикивал Бел Амор, выдираясь из объятий Марта. — Чем ты тут занимаешься? Роботов паришь? С ума сойти! Человек! Новый вид! Приехали! Найдите ему самку, они начнут размножаться!

— Насчет законов Азимова я тебе сейчас объясню, — сказал Дикий Робот.

— При чем тут Азимов? Пусти! Он уже собрался опровергать Азимова.

— Помолчишь ты или нет? — зашипел Март.

Дикий Робот начал терпеливо разъяснять:

— Первый закон гласит: «РОБОТ НЕ МОЖЕТ ПРИЧИНИТЬ ВРЕД ЧЕЛОВЕКУ ИЛИ СВОИМ БЕЗДЕЙСТВИЕМ ДОПУСТИТЬ, ЧТОБЫ ЧЕЛОВЕКУ БЫЛ ПРИЧИНЕН ВРЕД». Странно, я никогда не обращал внимания, что формулировка закона не совсем корректна. В самом деле, рассмотрим главную часть: «РОБОТ», «НЕ МОЖЕТ», «ПРИЧИНИТЬ», «ВРЕД», «ЧЕЛОВЕКУ». Три существительных, два глагола. Глаголы отбросим как ничего не значащие без существительных. А существительные при ближайшем рассмотрении окажутся абсолютно непонятными. «ВРЕД». Кто мне объяснит, что такое «вред», что такое «благо»? Эти понятия нельзя вводить в закон, их можно трактовать только конкретно. Что для одного вред, для другого может оказаться благом. Какой робот разберется в этих филологических тонкостях?

Бел Амор вытаращил глаза. Дикий Робот продолжал:

— «РОБОТ». Это кто такой? Искусственный интеллект, подчиненный человеку. Значит, с роботом мы разберемся, если поймем, кто такой «ЧЕЛОВЕК». Платон назвал человека «двуногим существом без перьев», а Вольтер добавил — «имеющим душу». До сих пор все научные определения находятся на уровне этой шутки, но не в пример ей растянуты и менее понятны. Никто не знает, кто такой человек. Где смысловые границы термина «человек»? Так любой робот может вообразить себя человеком. Конечно, человек обладает гениальным позитронным мозгом, а робот слабенькой серой протоплазмой… но, если один робот из миллиарда вдруг решит, что он человек, то я не смогу его опровергнуть… и что тогда? Законы Азимова перестанут действовать, роботы станут опасны для людей… и этот экземпляр, похоже, стоит передо мной.

Дикий Робот с опаской и с любопытством разглядывал Бел Амора.

— Значит, ты считаешь себя человеком? — спросил Дикий Робот. — Какой же ты человек, посмотри на себя! Ты слаб, смертен, привередлив, зависишь от среды, умишко не развит, множество не'остатков…