- Мне хотелось больше узнать о людях, о мире, обо всем. И о роботах, Джордж. Я хочу написать историю роботов.
- Ладно, пойдем домой... - сказал Джордж. - Только подбери сначала свою одежду. Эндрю, есть миллион книг по роботехнике, и в каждой описана история этой науки. Мир уже переполнен не только роботами, но и информацией о роботах.
Эндрю покачал головой, воспроизводя недавно усвоенный человеческий жест.
- Не историю роботехники, Джордж. Историю роботов, написанную роботом. Я хочу объяснить, что думают роботы о том, что случилось с тех пор, как первые из них стали жить и работать на Земле.
Брови Джорджа приподнялись, но он ничего не ответил.
11
Маленькой Мисс недавно исполнилось восемьдесят три года, но ее энергия и решительность с годами не убавились. Она чаще размахивала своей тростью, чем опиралась на нее.
Она выслушала рассказ с яростным негодованием.
- Это ужасно, Джордж, - сказала она. - Кто эти молодые бандиты?
- Не знаю. Какое это имеет значение? В конце концов они его не повредили.
- Но могли. Ты юрист, Джордж, и если ты отошел от дел состоятельным человеком, то лишь благодаря таланту Эндрю. Это он заработал те деньги, что заложили основу всего, что
у нас есть. Он обеспечил целостность нашей семьи, и я не позволю обращаться с ним, как с надувной игрушкой.
- Так что же ты от меня хочешь, мама? - спросил Джордж.
- Я ведь сказала, что ты юрист. Разве ты не слышал? Ты должен как-то организовать судебное разбирательство и вынудить региональные суды объявить о правах роботов, провести через легислатуру необходимые законопроекты и не оставлять дела вплоть до Всемирного суда, если потребуется. Я стану следить за этим, Джордж, и не потерплю никаких уверток.
Она не шутила, и то, что началось как способ успокоить разгневанную старую леди, разрослось в дело, достаточно юридически запутанное, чтобы сделать его интересным. Как старший партнер фирмы «Фейнголд и Чарни», Джордж разрабатывал стратегию, но оставлял черновую работу младшим партнерам, в том числе солидную ее часть своему сыну Полу, который тоже был членом фирмы, и почти ежедневной обязанностью которого стало докладывать обо всем бабушке. Та, в свою очередь, каждый день обсуждала дела с Эндрю.
Сам Эндрю тоже был глубоко вовлечен. Его работа над книгой о роботах была снова отложена, потому что теперь он продирался сквозь дебри различных толкований законов, и даже иногда давал робкие советы.
Однажды он сказал:
- Джордж говорил мне в тот день, что люди всегда боялись роботов. Пока такая боязнь останется, судьи и юристы вряд ли будут стараться в их пользу. Не следует ли что-нибудь сделать для создания нужного общественного мнения?
С этого момента Пол работал с судьями, а Джордж взялся за публику. Это давало ему преимущества неофициального лица, и он даже зашел настолько далеко, что несколько раз облачался в новомодную просторную одежду, которую обозвал драпировкой. Пол сказал ему:
- Только не появляйся в ней на людях, папа.
- Попробую этого не делать, - уныло отозвался Джордж.
При случае он обратился к участникам ежегодного сбора редакторов голографического телевидения, и, в частности, сказал:
- Если, согласно второму закону, мы можем требовать от любого робота неограниченного подчинения во всех отношениях, кроме нанесения вреда человеку, то в таком случае любой человек имеет опасную власть над любым роботом. Кроме того, поскольку второй закон приоритетнее третьего, любой человек может использовать закон подчинения для преодоления закона самосохранения. Он может приказать любому роботу повредить или даже уничтожить себя по любому поводу, или даже безо всякого повода.
Разве это справедливо? Разве мы обращаемся так с животными? Даже неодушевленный предмет, который хорошо нам служит, имеет право на бережное обращение. А робот не бесчувственный предмет, и даже не животное. Он достаточно хорошо мыслит, чтобы с нами разговаривать, спорить и шутить. Можем ли мы обращаться с ними, как с друзьями, можем ли работать вместе с ними, и не предоставить им хотя бы часть плодов этой дружбы, часть выгоды от сотрудничества?
Если человек имеет право дать роботу приказ, который не подразумевает причинение вреда другому человеку, то он должен обладать и таким достоинством, чтобы не отдавать роботу приказ, наносящий вред роботу, если только этого абсолютно не требует безопасность человека. С большей властью приходит и большая ответственность, и если у роботов есть три закона, защищающие людей, разве чрезмерна просьба о том, чтобы и у людей были один-два закона, защищающие роботов?
Читать дальше
Конец ознакомительного отрывка
Купить книгу