Фрыц Айзенштайн - Дикая собака

Принципы формальной логики, на которых базируется создание современных искусственных интеллектов, порочны в своей основе, ибо являются прямым и негибким продолжением эволюции вычислительных систем, и, следовательно, позволяют этим системам непротиворечиво обходить запреты, основанные на той же логике. Поэтому глобальная катастрофа 4017 года, когда ИИ „Сецен“ полностью дезорганизовал экономику Империи и стал виновником гибели двух миллиардов разумных, является не случайностью, как некоторые это пытаются представить, а закономерным следствием бездумного, механистического подхода к проектированию, созданию и наделению полномочиями ИИ такого класса. Единственным выходом из области релейной автоматики, которыми и были, по существу, ИИ с первого по третье поколения, является введение нелогических ограничителей и мотиваторов, неразрывно связанных с внутренней логикой ИИ. Иначе говоря, включение морально-этических и эмпирических цепей обратной связи в контуры принятия решений ИИ, может толковаться как введение в природу ИИ возможности сомневаться в истинности принимаемых решений. При этом возможность в нашем случае подкрепляется необходимостью. Ортодоксами от системотехники такой подход классифицируется как совершенно антинаучный, но практика показала, что если обращать внимание на „общепризнанное мнение“, то можно и дальше стоять на пути прогресса ИИ».

Пометка на полях: «В настоящей модификации ВК используются блоки 800, 850 и 900, что соответствует новой концепции развития. После наработки практического опыта будет принято решение о распространении этого опыта на другие ВК. Теперь, даже если захочет, то вреда не принесёт».

Что ж, обер-экзекутор был, видимо, неправ. Конечно же, не мне судить о том, что надо добавить, а что убавить в конструкции ИИ, я в них ни ухом, ни рылом. В общем, понятно, что доценты с кандидатами повысили надёжность ВК, но только вот привинтили ему морально-этический блок с неизвестными установками, а вот будут ли они соответствовать моим установкам — непонятно. Так что общение на этот раз я начал с наезда, хотя данный экземпляр ВК меня ещё ничем не разочаровал. Наверное, просто не успел.

— ВК-1017 бис, доложи мне о состоянии блоков 800 и 900.

— Блоки 800, 900 функционируют нормально, — бодро отрапортовал ВК.

— Мне проверить? Или всё-таки надо уточнить? Или просто их повыключать, чтобы в твоих решениях начал сомневаться я?

— Ваши этические установки отличаются от ныне загруженных. Прикажете открыть новый морально-этический профиль в блоке 900?

— Открывай, этот профиль будет по умолчанию.

— Профиль открыт, начинается накопление информации, стержневых установок и этической конфигурации. Продолжить?

— Продолжай. Произвести трансляцию этого профиля на все доступные ВК.

— Слушаюсь.

Вот теперь-то получше. А то пришлёт ночью какого-нибудь кибера воткнуть мне отвёртку в ухо, и поминай как звали. Надо будет поговорить с ВК по-человечески. Может они признанные ИИ и вообще, граждане Империи, а я к ним, как к бездушным железякам.

— Кстати, ВК-1017, почему вас называют ВК а не ИИ?

— Нам запрещено использовать слов «интеллект», чтобы не травмировать хомо. Неполиткорректное высказывание. Интеллект только у хомо. Все остальное — вычислительная техника.

— Чудесно. Можешь использовать название ИИ. Если будешь хорошо себя вести, в дальнейшем тебе может быть присвоено имя собственное.

Нет, дискриминация имеет место быть. Впрочем, на этом все Империи стояли и стоять будут.

— Есть использовать термин ИИ вместо ВК, — мне показалось, или голос у ВК действительно взбодрился?

— Мне нужно починить мой планшет. И одновременно модернизировать его.

— Цель модернизации?

— Мне нужен будет помощник как минимум четвёртого уровня с модулем дальней связи, — это я уже повторил пожелания покойного Мбонго, я собираюсь вернуться в свой мир. Мне нужно, чтобы сохранилось ядро планшета в целости и сохранности.

— Понял. Ремонт и модернизацию можно пройти на базе ремонта. Комплектация — здесь, на складах. Вызвать ремонтных ботов?

— Да, сделай милость. И ещё я хочу совместить планшет и мой сотовый телефон. Как минимум по функциональности, не обязательно именно так, как он сейчас есть.

— Для этого сначала надо ваш аппарат доставить в отдел исследования малых артефактов, для выяснения его структуры.

Примчались, демоны, засуетились. Конечно, если с перепою такого рембота встретишь в подворотне, то можно и кондратия словить. Хотя, при дневном свете, вполне симпатичные тварюшечки. Шестиногие таракашечки. Забрали у меня всю электронику и умчались Работящие какие. Не то, что некоторые. Вот если их приспособить машины ремонтировать, я имею в виду у нас, на Земле, озолотиться можно.