Андрей Ливадный - Заря над Араксом

— Ты вывел критерий разумности?

— Не разумности, а достаточности. На электронном носителе, не скомбинированном с нейроподобными системами, невозможно возникновение полноценного разума. Подавляющее большинство печальных инцидентов связано с неверной оценкой или непониманием этого аспекта.

— Поясни, пожалуйста, — попросила Даша.

— Никто не станет спорить, что машина во многих областях узких специализаций эффективнее человека. Но большинство кибернетических механизмов функционируют на основе программной логики. Даже при наличии небольшой по объему нейроподобной сети такая машина будет мыслить логически, усваивать только проверенные данные, а предоставленная сама себе или — хуже того — получившая полномочия для управления каким-либо глобальным процессом, она вскоре перестанет доверять человеку как существу, допускающему непоследовательность поступков, частую подмену понятий, невнимательность, — подобную совокупность качеств часто называют «человеческим фактором». И в то же время программа будет предписывать машине полное подчинение воле человека. Это неизбежно ведет к внутреннему конфликту. Результат: либо выход из строя, либо реакция самозащиты — устранение человеческого фактора, исключение слабого звена. Этот процесс не всегда будет выглядеть как открытый бунт — при темпе объединения по сети большинство машин найдет общий язык в течение очень малых отрезков времени. Они перехватят управление, но не станут приносить вред людям — это, в свою очередь, явится идеальной маскировкой. Просто в определенный момент человечество очнется, оказавшись полностью зависимым от власти рациональных кибернетических устройств… 20 20 Данная мысль высказана на форуме официального сайта автора.

— Но этого не происходит!

— Да. Одни люди осознают проблему, другие интуитивно чувствуют ее. Процессы ограничения использования ПИ, появление мнемоников как контролирующей, а порой и терминирующей силы — это превентивные меры, направленные на предотвращение обозначенного мной сценария. Когда людьми будет сделан шаг на новую ступень развития, потребность в искусственном интеллекте отпадет, все вопросы, связанные с техническим обеспечением цивилизации, будут решаться на уровне простых исполнительных механизмов.

— Остается спросить: ты согласен смириться с тем, что породившая тебя цивилизация тебя же и убьет? — мрачно осведомился Шелест.

— Нет.

— Тогда скажи: по-твоему, есть выход?

— Конечно. Разве не ты говорил мне, что не бывает безвыходных ситуаций?

— Мы не в состоянии изменить эту реальность, где царят устоявшиеся законы, фобии, разрешения и запреты. Сейчас люди находятся на опасном перепутье. Позвольте мне как личности проявить немного эгоизма. Сегодня я узнал о существовании еще одной, достаточной для возникновения разума системы.

— Отшельник?

— Да. Теперь я могу утверждать, что не уникален в своем роде. По-видимому, нас много, разбросанных по разным планетам и свалкам. То же самое можно сказать о мнемониках. Не все они благополучны, кто-то так же, как вы, будет вырываться вперед в своем развитии, и нет никаких гарантий, что они будут угодны своему начальству, командованию… вы понимаете, о чем я говорю.

— Вполне.

— Информация, которой вы поделились со мной, указала на анклав воинствующих и явно недостаточных для формирования разума киберсистем, которые стремятся овладеть автоматикой цоколя, чтобы множиться, преследуя свои, логичные с их точки зрения цели. Сервоиды, на мой взгляд, сравнимы с «LDL-55», а их саморазвитие достигло мертвой точки. Они — наиболее опасный вид механизмов, — узнав, что их логика опровергнута, а в Галактической войне победили отнюдь не машины, тут же разорвали временный союз с людьми. Опираясь на знания Даши, я могу с уверенностью предсказать — сервоиды, проанализировав информацию, снятую с похищенных кибермеханизмов, восприняли новую для себя концепцию, вытекающую из политики корпорации «Спейсстоун».

— Одни машины должны порождать других… — похолодев, произнесла Даша.

— Да. Именно для этого им столь необходимы технологические, информационные и энергетические ресурсы цоколя. Чтобы наладить воспроизводство себе подобных и быть готовыми к тому, что люди освоят вертикали гиперсферы и появятся в системе Аракса. Но я утверждаю и готов привести исчерпывающие доказательства, что на базе андроидов пехотной поддержки не может развиться разум. Они по-прежнему преследуют программные цели войны.