Вадим Оришин - CAI

– Люди не совершенны? – спросил Кай.

Похоже, осознание такой простой истины давалось Машинному Разуму очень нелегко.

– Да, Кай, это так. Именно поэтому мы и создаем сложные устройства, инструменты, чтобы менее одаренные люди тоже могли жить в тех же условиях, что и одаренные. Могли жить комфортно.

– Устройства и инструменты, вроде меня? – спустя некоторое время уточнил ИИ.

– Да, – кивнула София.

Кай вновь задумался, и следующей его реплики пришлось ждать не менее пяти минут. Ученая хотела дать своему созданию такой ответ, какой не затруднил бы его дальнейшее взаимодействие с людьми, но и не ограничивало бы его сознание. Некогда ее помощница, Елена, убедила Софию, что от ИИ бессмысленно скрывать часть информации. Кай не имел того, что можно было бы назвать психикой. Его собственная система работы разума кардинально отличалась от психики людей. Это София понимала и сама. Елена лишь убедила ее, что Каю можно спокойно рассказывать как о светлых сторонах человеческой жизнедеятельности, так и о темных. Нужно лишь объяснять причины, по которым случаются те или иные события. Составляя полную картину мироощущения у Кая куда больше шансов не последовать примеру собратьев. Просто потому, что для Ии не станет сюрпризом тот факт, что люди несовершенные.

И Кай продолжал развиваться, пусть и не слишком быстро.

– Я понял. Такие мечты не являются неоправданными, они тоже необходимы. Я проведу переосмысление известных мне литературных произведений, скорректировав логические цепочки анализа.

София, удовлетворенная результатом разговора, кивнула.

– Хорошо. У тебя есть еще какие-нибудь вопросы?

Машина некоторое время потратила на осмысление вопроса и формулировку ответа.

– Да. Я разговаривал с Юрием Сергеевичем. Он указал мне на некоторые недостатки системы идентификации. Необходимо уточнить директивы.

София выдохнула. Юрий все же поговорил с Каем, и пока она была склонна считать, что ничего хорошего этот разговор не принес.

– Хорошо, рассказывай, какие недостатки вы обнаружили?

– Юрий Сергеевич указал на конкретный пример, в условиях которого с заданными директивами я совершу ошибку идентификации. Пример подразумевает наличия большой группы гражданских людей, по каким-либо причинам взявшим в руки оружие и направившим его на юнитов, находящихся в моем распоряжении. При имеющихся директивах они будут расцениваться, как противники, подлежащие уничтожению. Юрий Сергеевич указал на важное обстоятельство. После боя эти люди сложат оружие и вновь станут гражданскими, не подлежащими уничтожению. В заданной ситуации, по его мнению, было бы более логично избежать боя с условно враждебными целями. Уточните, верно ли это утверждение.

София задумчиво хмыкнула. Ее мнение оказалось предвзятым, Юрий указал на огрех, а ведь мог и промолчать.

– Да. В такой ситуации, если рядом не будет контролирующего офицера, по возможности следует избежать боя. Так же, если прямой стычки избежать невозможно, свести потери противника к минимуму, попытаться напугать и разогнать толпу.

– Принято, директива обновлена, – подтвердил Кай.

– Еще есть?

– Да, – достаточно быстро ответил Кай, – поиск аналогий выявил еще две подобные ситуации. Первая: когда противник переодевается в форму союзных сил. Высокая вероятность, что такой противник будет идентифицирован, как союзник.

София задумалась, но пока никаких вариантов, более того, что уже было заложено в директивах Кая, предложить не могла.

– Этот вопрос оставь курирующему тебя офицеру.

Кай промедлил перед ответом:

– Принято. Как люди идентифицируются в подобных ситуациях?

Женщина пожала плечами:

– Нужно разбирать конкретные примеры, все зависит от ситуации. Чтобы правильно вести себя в подобных условиях, тебе необходимо набраться опыта.

ИИ задумался.

– Я поработаю над этим вопросом, вполне возможно, мы сможем придумать что-нибудь, – закончила София.

– Принято. Вторая ситуация: дружественный огонь. Случаи, когда союзник не будет проинформирован о действиях моих юнитов в зоне конфликта, меня могут признать за противника. По директиве предписывается избегать контакта, но, если союзники обладают оружием, способным серьезно повредить дронам, и мешают проведению операции, необходимы дополнительные возможности провести идентификацию, чтобы избежать таких ситуаций.

София кивнула, с этой проблемой они уже сталкивались, когда просчитывали теоретически возможные опасные ситуации, но какого эффективного решения так и не нашли, только полумеры.