Айзек Азимов - Конфликт, которого можно избежать

— Понимаю. И, видимо, именно к этому вы клонили, рассказывая мне о просчетах, допущенных Машинами, — сталь, гидропоника и так далее?

— Именно. Этих ошибок просто не должно быть. Доктор Силвер сказал мне, что это просто невозможно.

— Он, что же, отрицает факты? Это на него непохоже!

— Нет, нет. Конечно же, фактам он верит. Я не хочу быть несправедливым по отношению к нему. Он отрицает то, что в ошибках виноваты Машины. Он утверждает, что Машины сами по себе непогрешимы. Это, мол, непреложно следует из законов физики. Тогда я говорю ему…

— А вы, наверное, сказали: «Пошлите своих парней для проверки»?

— Сьюзен, да вы просто читаете мои мысли! Именно так я и сказал ему, а он ответил, что это невозможно.

— Что, он слишком занят?

— Нет, он сказал, что человек просто не в силах сделать это. И, кажется, он говорил искренне. Он объяснил мне, и я, кажется, правильно понял его, что Машины просто необъятны. Поэтому… Ну, скажем, группа математиков должна работать целый год, чтобы рассчитать позитронный мозг, предназначенный для выполнения определенных вычислений. С его помощью они могут рассчитать еще более сложный мозг, который они снова используют для создания еще более совершенного устройства, и так далее. Силвер сказал, что устройства, которые мы называем Машинами, результат десятой стадии такого процесса.

— Слышу что-то знакомое… Бедный Винсент. Он еще так молод. Предыдущие начальники исследовательского отдела, Альфред Лэннинг и Питер Богерт, к счастью, уже мертвы. Перед ними не вставали подобные проблемы. Да и передо мной тоже. Наверное, роботехника, как таковая, скоро исчезнет, раз мы больше не можем разобраться в созданных нами же устройствах.

— Надеюсь, что нет. Ведь Машины — это не какие-нибудь там сверхмозги из воскресных приложений, хотя они именно так и описываются там. Из-под контроля человека они выходят просто потому, что в своей области они за бесконечно малое время могут собрать и обработать бесконечно большое количество информации.

Тогда я попробовал поступить по-другому. Я задал вопрос самой Машине. Строго секретно мы ввели в нее исходные данные по вопросу о сталелитейной промышленности, ее собственный ответ и то, к чему привело ее решение — перепроизводство, а затем попросили объяснить все это.

— Правильно, и что же она ответила?

— Могу повторить вам ответ слово в слово: «Это не требует никаких объяснений».

— И как же Винсент истолковал такой ответ?

— Двояко. Либо мы не дали Машине достаточного для получения определенного ответа количества данных, что маловероятно, и мистер Силвер отметил это. Либо для Машины оказалось невозможным допустить, что она может дать ответ на основании данных, говорящих о том, что она причинила вред человеку. Ведь это само собой вытекает из Первого закона. А потом доктор Силвер посоветовал мне поговорить с вами.

Сьюзен Кэлвин выглядела очень утомленной.

— Я уже стара, Стивен. Когда умер Питер Богерт, начальником Исследовательского отдела хотели назначить меня, но я отказалась. Я уже и тогда была не молода и не хотела взваливать на плечи такую ответственность. Тогда они назначили на эту должность молодого Силвера — меня это вполне устраивало. Только мне было не вполне понятно, зачем отказываться, если на меня все равно взваливают такую ответственность?

Стивен, позвольте мне объяснить мою позицию. Мои исследования действительно включали в себя интерпретацию поведения роботов в свете трех законов роботехники. Но теперь мы имеем дело уже с этими невероятными вычислительными машинами. Это позитронные роботы, и поэтому они подчиняются трем законам. Но у них нет ничего личного, потому что их функции чрезвычайно ограничены. Возможно, потому, что они так узко специализированы. Но в этом случае остается очень мало возможностей для применения Законов и мой излюбленный метод нападения, таким образом, оказывается бесполезным. Короче говоря, я не представляю, Стивен, чем я могу быть вам полезна.

Координатор коротко засмеялся.

— Не спешите, дайте мне рассказать остальное. Дайте мне высказать вам мои предположения, и тогда, возможно, вы скажете мне, может ли быть такое в роботехнике.

— Конечно, продолжайте.

— В таком случае, раз уж машины дают неправильные ответы и в то же время не могут ошибаться, остается единственная возможность. ИМ ПРОСТО ДАЮТ НЕПРАВИЛЬНЫЕ СВЕДЕНИЯ! Другими словами, виноваты люди, а не машины. И тогда я совершил инспекционную поездку по планете…