Марк Ланской - Битые козыри

— Почему же, — возразил Лайт, — ведь его способность думать не станет слабее. А правильная мысль не может привести к плохим поступкам. Умные машины просто не могут делать глупости.

— Но ведь он не окажется в безвоздушном пространстве, — упорствовал Милз. — Его будут окружать люди, которые захотят извлечь из него пользу. Ему придется выполнять команды, продиктованные чужой, не всегда правильной мыслью. Вспомни, как используются роботы на военных заводах. Хотя у них запрограммирована неспособность причинить вред отдельному человеку, это не мешает им выпускать оружие, смертоносное для миллионов. А мэшин-мен, во всем похожий на человека…

— У роботов куцый интеллект и скудная информация, — перебил его Лайт, — они дальше своего носа не видят. Да я вовсе не собираюсь выпускать мэшин-мена в продажу.

— Ты выпустишь джина из бутылки.

Торн, внимательно прислушивающийся к спору, испугался, как бы Лайт не отказался от своего замысла, и решительно вмешался:

— Бобби! Ты зря пугаешь нас мнимыми опасностями. Перед нами интереснейшая техническая проблема. В конце концов и этот кусок кожи — новый шаг к витагену. Может быть, таким же шагом к чеву станет и мэшин-мен.

— Ты прав, Дэви, — согласился Лайт. — Взаимодействие интеллектуальной начинки со свободой передвижения может помочь нам… Приступай к его программированию, а витагеном займется Боб.

Между ними часто вспыхивали разногласия, но после того как Лайт принимал решение, спор прекращался. На этот раз Милз не успокоился.

— В таком случае, — твердо сказал он, — я настаиваю, чтобы интеллект мэшин-мена подчинялся какой-то генеральной установке, цели, называйте как хотите, — но без этого мы родим монстра.

— Это само собой разумеется, — откликнулся Лайт. — И принцип, который будет заложен в основу программы, совершенно ясен.

— Пусть делает то, что считает разумным, — предложил Торн.

— А какой критерий разумности? — спросил Милз.

— Сформулируем так, — сказал Лайт. — Мэшин-мен считает разумным только такой поступок, который не может принести вреда людям. Все его поведение определяется стремлением устранить вред и принести пользу. Он будет делать только то, что давным-давно названо «добром».

— Ты полагаешь, что ему будут доступны такие понятия, как добро и зло?

— А почему бы нет? Переведенные на язык разума, этические категории не столь сложны. Они были путаными, пока опирались на субъективные оценки. «Добро» могло быть личным, семейным, групповым, классовым. А для других оно оборачивалось злом. У мэшин-мена не будет никаких личных пристрастий. Умный и широко эрудированный, он сможет заглядывать вперед и оценивать возможные последствия своих действий. Хорошо мыслящее существо не может быть безнравственным.

— Опять ты увлекаешься, Гарри, и принимаешь невозможное за достижимое, — с грустью сказал Милз. — Мало ли ты знаешь умных злодеев?

— Это другое… С людьми все сложнее. Поэтому мы и мучаемся с чевом… В мозг мэшин-мена достаточно ввести дополнительные блоки комплексного анализа, самоконтроля и дальнего прогнозирования… Дэви! Я набросаю схему, и ты проследишь за программой.

— Сделаю, шеф! — шутливо отрапортовал Торн.

На этом дискуссия закончилась. Чужие идеи всегда щедро оплодотворяли конструкторский гений Торна. То, что другим только мерещилось, получало у него четкие контуры реального проекта. Он нагрузил выделенную ему ДМ задачами высшей сложности, сам, неделями не выходя из лаборатории, просматривал и отвергал предлагаемые варианты, снова и снова заставлял компоновать, казалось бы, несовместимые элементы. Но постепенно ноги и руки мэшин-мена приобрели все степени свободы, глаза и уши — вполне человеческий вид. Общая компоновка деталей удачно имитировала фигуру мужчины, недавно вышедшего из юношеского возраста. Так же успешно справились с внешним покровом. Черепную коробку мэшин-мена и пластмассовый костяк туловища обтянули эрзац-витагеном, а голову покрыли волосами, причесанными по моде.

Ко дню рождения Лайта Торн подготовил сюрприз. Они втроем сидели за «столом раздумья», задрав на него ноги, и обменивались спонтанно возникавшими мыслями, когда дверь открылась и порог переступил молодой человек, скромно одетый в рабочий костюм. Свежий цвет лица, подвижные руки, осмысленные глаза, плавная походка — все создавало иллюзию неподдельной жизни.

— Что скажешь, Дик? — спросил его Торн.

— Я хочу поздравить мистера Лайта с днем его рождения и пригласить вас к праздничному столу.