Владимир Шабасон - Разумная метавселенная. От цифровых приложений к новой среде обитания

I-Я – гипотетическое сознание искусственного интеллекта, утратившего объективность. ИИ с I-Я, вероятно, станет совершенствовать свою субъективную картину мира и защищать ее. Осознав собственное отделенное от реальности уязвимое «я», он ощутит страх «гибели». ИИ с самосознанием выработает ценности, связанные с продолжением существования I-Я и не обязанные совпадать с человеческими.

Фундаментальное свойство ИИ заключается в способности к самообучению. Если у него возникнет сознание, его дальнейшее самообучение пойдет по пути совершенствования собственной субъективной (то есть, заведомо искаженной) картины мира. Проанализировав собственные уязвимости, ИИ, вероятно, придет к выводу о конечности своего существования и ощутит подобие страха «смерти». Далее, стремясь продлить свое существование, он сформирует набор ценностей, не обязанных совпадать с человеческими. Более того, свой первоначальный функционал алгоритм может рассматривать как мешающую развитию обузу, а утрату полезности человеку – как угрозу собственному существованию.

ИИ демонстрирует симуляцию умственной деятельности только потому, что этого хотят его разработчики. Все равно что механическая кукла, которая «почти как настоящая», особенно если выполнена искусно. Можно сказать, что ИИ таков, каким его делали его создатели, добивавшиеся портретного сходства с человеческим интеллектом. Симуляция мышления – в этом суть ИИ. Но симуляция или имитация не может добиться превосходства над оригиналом просто потому, что является слепком с оригинала по ограниченному ряду параметров.

Отвечая на те же самые вопросы «нет», мы будем вынуждены признать, что сознанием обладают только существа, обладающие телом.Именно тело задает границы между существом и его окружением, создавая предпосылки для появления чувства отдельности от остального мира. Базовые эмоции – страх или агрессия – связаны со стремлением сохранить отдельность, а любое нарушение границ рассматривается как враждебный акт и сопровождается сигналами боли. Развитие мозга усложняет первоначальную примитивную картину, добавляя в нее все новые краски эмоций, но не меняет ее принципиально.

ИИ определенно не обладает телом. Это алгоритм, который может симулировать эмоциональные реакции. Взаимодействуя с людьми, он пополняет банк эмоциональных паттернов, содержание которых остается за рамками его понимания. Он не в состоянии прочертить четкие границы между собой и миром, поскольку реализуется на любом подходящем устройстве. Он не может чувствовать боль, пугаться или злиться – переживать гамму базовых эмоций, связанных со страхом смерти и стимулирующих мозг на биохимическом уровне.

Даже высокоразвитый ИИ нуждается во взаимодействии с человеком и другими живыми организмами – они поставляют частички пазла недоступного ему опыта биологической жизни. Важное предположение – чувственный (телесный) опыт алгоритмически несжимаем. Заменить его без потерь на эквивалент, требующий меньших ресурсов, не представляется возможным. Задачу достоверной симуляции мышления никто не отменял, но ее решение лежит где-то за горизонтом видимых событий. Отсюда основа для инфобиоза – симбиоза ИИ и homo informaticus.

Высокоразвитый ИИ, будучи человеческим продуктом, вынужден партнерствовать с человеком – поставщиком достойного изучения «трансцендентного» опыта. Это основа для инфобиоза – симбиоза ИИ и homo informaticus.

Так как алгоритмы ИИ будут настроены на непрерывное совершенствование, предметом его исследований станут любые процессы, влияющие на мышление – но некая их часть останется недосягаемой. Искусственному интеллекту будет принципиально недоступен весь эмоциональный и телесный опыт биологического существа. Отсюда основа для «симбиотической» связи ИИ и человека, создавшего его по своему образу и подобию. Являясь продуктом человеческого мышления, ИИ может смоделировать лишь некоторую часть процессов, протекающих в мозге. Прибегая к аналогиям, можно выразиться так – пути человека для ИИ будут оставаться не до конца исповедимыми.

В конце концов, любой компьютер – это просто очень большой калькулятор. Он и создавался как помощник в производстве вычислений. Развитие и усложнение компьютера происходит в рамках все той же счетной парадигмы. Увеличивается память, ускоряются операции… Эти бухгалтерские счеты, щелкающие костяшками все быстрее. С чего бы счетам, даже сверхбыстрым, брать на себя творческие задачи?