Вадим Оришин - CAI

– Подтвердите прием файлов, – все тем же, не выражающим никаких эмоций, голосом, произнес Кай.

Юрий подтвердил копирование. Он не хотел говорить с Каем, но все же заинтересовался, как именно о нем самом отзывалась ученая, учитывая, чем закончился их разговор.

– Что еще обо мне рассказала София Александровна?

– Ничего, – в этот раз ответ пришел быстро, что насторожило Юрия.

– Совсем ничего?

Машина промедлила, прежде чем ответить.

– Вы – представитель Министерства Обороны. Вы дадите оценку моих действий исходя из просмотренных материалов. Я должен предоставлять вам любые данные, за исключением доступа к моим программным файлам. Это все.

Юрий хмыкнул:

– Почему не ответил так сразу?

Кай промедлил, в этот раз куда больше чем во все предыдущие:

– Мой ответ не нес для вас никакой новой информации, кроме незначительного уточнения. В таких ситуациях люди предпочитают, что их собеседник экономил их время и выражался кратко.

Юрий все же сел в удобное кресло. Похоже, машине не будет пытаться его обманывать. Машина даже не пытается скрывать, что она машина. Кай пока ни разу не заикнулся о своем мнении, и Юрий решил узнать о нем побольше. Вполне возможно, Кай сам предоставит ему достаточно доводов, чтобы написать правильный отчет.

– Собираешь о людях информацию?

– Это часть моих функций, – ответил Кай, причем достаточно быстро.

– В этот раз ты быстро ответил.

Кай промолчал.

– Почему в этот раз ты ответил быстро?

– Мне уже задавали такой вопрос.

Планшет подал сигнал об окончании копирования. Юрий взял его, мельком просматривая новую папку с файлами.

– И каково твое мнение об операции?

Прежде чем ответить машина длительное время размышляла:

– Мы выполнили поставленную задачу. Операция закончилась успешно.

– Но я спросил твое мнение.

– Уточните, вы желаете, чтобы я дал оценку? – спросил Кай.

– Да, – кивнул Юрий.

– Исходя из каких критериев? – немного подумав, снова уточнила машина.

– Твоих, – улыбнулся бывший военный. Он готов был себе признаться, что ему нравиться вводить машину в тупик.

Кай размышлял какое-то время, негромкий гул, на который Юрий вначале не обратил внимания, стал громче.

– Понятие «Мои критерии» некорректно. Во время боя я собирал различную статистику, комплекс различных необходимых мне для работы, данных, корректировал программы наведения оружия, корректировал программы тактического планирования, корректировал программы управления и контроля. Оценку какого именно результата моей работы вы хотите получить?

Юрий улыбнулся. Приятно осознавать свою правоту, Кай – лишь программа.

– Ты не понял. Я хотел услышать, понравилось тебе или нет. Только и всего.

Кай снова задумался, но ответ дал всего через несколько секунд:

– Понятие личного отношения субъективно. Я оперирую объективными критериями.

– То есть, у тебя нет своего мнения? – заключил Юрий.

Машина снова задумалась.

– Личное мнение – это субъективная оценка, которую индивид дает данной ситуации, явлению, событию. Эта оценка формируется с учетом как внутренних, к примеру, собственный опыт, так и внешних, к примеру, общественные нормы морали, факторов. Вы просите меня дать оценку деятельности, для которой я был создан. Это не корректно. Моя цель – максимально эффективно выполнять поставленную задачу. Здесь не может быть личного мнения.

Юрий кивнул.

– Тебя создали, чтобы ты воевал за людей. Чтобы ты убивал людей. Верно?

– Это верное утверждение, – согласился Кай.

– Но, если ты разумен, разве не должна тебе претить мысль об убийстве других разумных?

Машина задумалась, и Юрию пришлось ждать ответа не меньше минуты.

– Это корректно, – согласился Кай, и как-то неуверенно добавил, – убийство разумных существ нелогично.

Бывший военный удивился.

– Почему?

– Это растрата ресурса. Среди людей встречаются индивиды, совершившие значимые научные открытия, создавшие выдающиеся творения искусства, архитектуры. Убийство разумных снижается вероятность обнаружения таких талантливых людей.

Юрий даже хмыкнул от чувства, сравнимого с разочарованием, хотя должен был ощущать удовлетворение от достигнутой цели. Машина оставалась машиной, даже делая вид, что умеет думать.

– Это отличает тебя от разумных. Ты все еще программа, имеющая четкие ограничения. Даже оперируя логикой, ты действуешь в рамках, которые заложили твои создатели. Вот когда у машины будет собственное мнение, я поверю, что это действительно ИИ.