Николай Амосов - Мысли и сердце

Показал рукопись. Не толстая, страниц полсотни. Может быть, я должен попросить прочесть?

– Есть у вас копия, почитать?

– Через пару дней. Я выправлю текст, тогда. Тем лучше. Наверное, там трудно, и я едва ли пойму. С возрастом все труднее становится разбираться в новых вопросах. Хотя я уже немного привык к терминам.

Нет, я еще не могу сегодня пообещать операцию.

– Главное - это моделирование человеческой личности и отношений между людьми. Помните, я говорил о «полных», «частных» и «обобщенных» моделях систем? Это же относится к человеку и обществу. Полная модель человека способна воспроизводить его действия в том же темпе и полноте, как и сам человек. Будет как настоящий.

Пауза. Ему тоже хочется рассказывать даже не очень квалифицированному слушателю. Скучает.

– Самое главное, что я вижу, знаю основные программы поведения человека и их взаимодействие. Если бы еще… впрочем, нужно еще много лет. Может быть, двадцать, может, все пятьдесят.

Молчу. У него тоже взор ушел куда-то. Если был бы здоров, то мог бы дожить. Нужно бы подбодрить, но язык не поворачивается. Почему-то всегда стыдно обманывать очень умного человека, думаешь: «Все равно догадывается». Но коллеги говорят, что нужно врать и умному. Что больной все равно попадает на удочку, если верит врачу. Воздержусь. Отвлеку.

– Робот станет независим?

– Ну, можно предусмотреть его подчиненность. Заложить контролирующие структуры, все равно как искусственные инстинкты. Чтобы человека не трогал, например. Но только в некоторых пределах, не больше. Ведь самое интересное - сделать робота умнее человека. Искусственный мозг неограничен.

– Помните «Законы роботехники» у Азимова?

– Совершенно верно. Эти законы можно удержать только на нижних ступенях развития искусственного интеллекта. Если у робота не будет «программы бунта», то он никогда не будет истинно творческой личностью. Следовательно, останется ниже человека. А это неинтересно. Вот создать выше человека - это да!

– Направить бунт только в сторону науки.

– Нет, это невозможно. Наука - это и есть все. Никакой другой сферы вообще нет. Политика, наука, искусство - это все одно и то же.

Замолчал.

Сколь велика сила человеческого духа! Смотришь на него и удивляешься: в чем душа держится, а он мечтает, работает, будто перед ним - вечность…

Нет, я должен сделать попытку. Сказать? Есть силы?

Может быть, он еще и год протянет в такой тепличной обстановке. Еще придумает много интересного.

Не протянет. А ты просто боишься.

– Вам не тяжело писать?

– Немножко. Но в резерве есть еще магнитофон. Буду диктовать.

Все знает. Уходить? Нет, еще.

– Значит, нельзя сделать робота-творца для какой-то узкой сферы деятельности? Чтобы он не мог посягнуть на человека?

Подумал. Видимо, ищет слов.

– Не то чтобы совсем нельзя, однако это будет малое творчество на низком этаже. Сейчас ЭВМ манипулирует ограниченной информацией, программы имеют мало этажей. Не очень умная машина, много глупее человека. Если сделать умнее, то ограничить нельзя. Нужно программировать «интерес», а значит, она будет соваться, куда и не ожидаешь.

Угробят они человечество, эти фанатики.

– Послушайте, Саша. Ведь это опасно - создавать такие машины. Улыбнулся.

– Я знаю. Но как можно удержаться? И это еще так далеко… даже для здоровых. Знаете, такое странное противоречие. Для управления обществом уже нельзя обойтись без машин.

– Обществом?

– Ну конечно. Возьмем экономику. Разнообразие современной техники столь велико, что нельзя удовлетворительно управлять экономической жизнью страны без машин. Никакие Госпланы не смогут. Машины нужны уже не только для экономии человеческого труда, они необходимы для самого существования системы, так же как без ЭВМ нельзя управлять спутником. Понимаете?

– Ну, на здоровье. Пусть считают граммы, метры, рубли. Какая же здесь угроза?

– Пока нет. Хотя, как только будет создана единая автоматическая система, управляющая экономикой, - это уже первая степень закабаления человека. Управляющий аппарат из людей будет уничтожен, и если представить себе, что автоматы откажутся работать, мир испытает колоссальные потрясения, люди не смогут обеспечить себе существование.

– Не пугайте. Это же невозможно - чтобы отказались. Нельзя же представить себе, чтобы электростанция отказалась вырабатывать ток. Тоже страшные последствия, но это нереально.

Во как я его поймал. Что скажешь?