Джо Холдеман - «Если», 1996 № 11

— По-твоему, мы сумеем это сделать?

— Если откровенно, мистер Кори, мне это представляется маловероятным. Я бы на месте капитана корабля болсоверов тщательно обследовал те секторы пространства, где произошли бои, каждый сингулятор и даже каждый объект, испускающий гравиволны с интенсивностью выше некоего критического уровня. Хотя такие действия и идут вразрез с обычными правилами ведения боя, принятыми среди болсоверов, но сейчас, похоже, затеяна долговременная военная кампания, и потому правила иные.

— А что если мы выбросим за борт свой сингулятор?

— Как?! — возмутился Лин. — Сэр, неужели вы серьезно полагаете…

— Чувствительные сканеры способны на вполне приличном расстоянии засечь даже перемещающийся на досветовых скоростях корабль. Следовательно, избавившись от сингулятора, мы не только не увеличим наши шансы на исчезновение, но и основательно уменьшим возможность добраться до базы.

Кори, оперевшись о край пульта управления, повернулся вместе с креслом и оказался лицом к лицу со старшим инженером.

— Успокойтесь, Лин. Рано паниковать. Как, по-вашему, Чарли в порядке или нет?

Лин, пожав плечами, сказал:

— Его оценка текущей ситуации близка к истине. Но…

— В чем дело?

— Все же я не до конца уверен в его здравомыслии.

— Ты слышал, Чарли? — воскликнул Кори. — Старший инженер считает тебя безумцем.

— Полностью согласен с главным инженером, мистер Кори.

— То есть как?

— Психологи еще сотни лет назад установили, что каждая мыслящая личность в той или иной степени безумна, — ответил Чарли. — И искусственный интеллект не является исключением из этого правила.

— Гм-м, — буркнул Кори и вопросительно уставился на старшего инженера. Тот с задумчивым видом жевал нижнюю губу.

Чарли сказал:

— Могу заверить вас, что в теперешнем своем состоянии я способен бесперебойно функционировать и принимать решения, адекватные ситуации. Вполне допускаю, что со временем нарушения функций у меня усилятся до такой степени, что служить кораблю надлежащим образом я не смогу, но заверяю, что в этом случае я немедленно доложу о случившемся исполняющему обязанности капитана корабля Джонатану Томасу Кори и сразу сложу с себя полномочия по управлению кораблем.

Кори глубоко вздохнул, а затем тихо спросил:

— Чарли, признайся, ты способен солгать мне?

— Нет, мистер Кори, не способен. Во всяком случае, я не снабжу вас заведомо ложной информацией.

— Даже ради спасения корабля?

— Даже в этом случае информация не будет ложной. Возможно, она окажется неполной. Конечно, такую информацию можно расценить как ложь, но при некоторых обстоятельствах ради выполнения своей высшей задачи — спасения корабля и его экипажа — я могу прибегнуть к утаиванию некоторых фактов.

— Понятно. — Кори кивнул. — Чарли, а ты не лжешь мне сейчас?

— Нет, мистер Кори, я вам не лгу.

Кори надолго задумался. Как оценить функционирование Чарли? Что если его сознание серьезно повреждено последствиями травмы, но он скрывает это, спасая свою жизнь? Как выяснить, в каких случаях искусственный интеллект лжет, а в каких говорит правду? Кори вздохнул и громко спросил:

— Чарли, а ты бы солгал, чтобы поддержать моральный дух экипажа? Допустим, случилось так, что знание правды подорвет самооценку людей. Скрыл бы ты от них в этом случае правду?

Чарли помедлил с ответом.

— Допускаю, что при некоторых обстоятельствах я пойду на ложь ради поддержания морального духа экипажа, — наконец признался Чарли. — Но только после того как сумею обсудить этот вопрос с капитаном или старшим офицером и получу прямой приказ.

У Кори отлегло от сердца.

— Все же я предпочел бы обойтись без обмана, — продолжал Чарли, — хотя мне прекрасно известно, что люди иррациональны и что эмоции влияют на их поведение в гораздо большей степени, чем принято считать. Именно поэтому точные количественная и качественная оценки их чувств являются важнейшими составляющими в уравнениях, оценивающих их поведение.

— Неужели? — удивился Лин.

— Именно. И если потребуется скрыть некоторые факты, чтобы не подорвать моральный дух экипажа, я пойму необходимость такого решения, но хочу заранее предупредить об опасности, связанной даже с оправданной ложью. Если ложь откроется, то повинный в ней утеряет уважение товарищей и подчиненных — и в дальнейшем, весьма вероятно, окажется не способен руководить людьми. Кроме того, любая ложь противоречит реально имевшим место фактам и оттого, как правило, неизбежно порождает дальнейшую цепь замалчиваний и новых ложных фактов.