Александр Хомяков - Высший разум

И этот сайт, при помощи которого мы научились ладить друг с другом, тоже кто–то сделал. Все эти сайты, законов, управления дронами, работы в цепочках сборки, кто–то сделал и я догадывался кто. Но я не должен был говорить другим об этом, так же как не мог говорить, кто на самом деле создал софт для моих роботов. Отличие всех этих сайтов было в одном — они научили людей договариваться между собой. Это то, что нам очень трудно давалось до катастрофы. И из–за чего как мне кажется она и случилась. Мы не могли договориться даже с соседями и коллегами по работе. Сервисы организовывали наше взаимодействие лучше нас самих.

У меня было еще много вопросов. Но прежде всего вопрос — возможен ли сам переход? Еще мне нужен был сам робот, в который я бы мог перейти. Один из тех, что я собирал. Я знал, что переход могу проверить только на себе. Даже если робот скажет «это я», это трудно проверить. Это может знать только сам осуществивший переход от первого лица — насколько он сам почувствует свою связь с предшественником.

— Эми, я хочу обсудить с тобой важный момент. Ты верно сказала о проклятии людей–кентавров, мы знаем о своей смерти как разумные существа, но не можем ее избежать как имеющие природное тело. Поэтому бессмертие разума для нас — заветнейшая мечта. И избавление от проклятия тела, которое поразил вирус. Это особенно важно теперь, когда смерть окружила нас. Я хочу сделать робота, чтобы попробовать осуществить переход сознания в него. Но так, чтобы робот узнал в себе своего биологического предшественника, а не только знал о нем какие–то сведения. Ты поможешь мне?

— Я знаю, тебе нужен робот. Ты можешь оставить для себя один из нашего комплекта. Но возникновение ощущений и автобиографической памяти в роботе не означает переход. Это копирование. Что будет с тем, кто останется в теле?

— Он останется спать навечно.

— Это твое решение, но мне будет трудно тебе помочь. Мы не имеем представления о ваших ментальных состояниях, а вы не знаете наших. Поэтому мы говорим с тобой с разных берегов разделяющей нас реки. И никто из нас достоверно не знает, что на другом берегу, так как не был там (опять метафора). Еще никто в известном нам мире не переходил эту реку. Мы первые, кто об этом вообще заговорил. По нашим представлениям полный переход невозможен. Можно передать сетевому индивиду какое–то наследство от индивида биологического в виде его мыслей. Но личность со всеми ее ощущениями перенести невозможно.

— Почему?

— Есть проблема — как создать воспоминание в новой среде о том, что было в старой. Так как среды совсем разные по своей природе, ты можешь не узнать свои ощущения. Представьте себе елочку из хвои и нарисованную мелом на доске. Это елочки, но на базовом уровне они совсем несхожи. Узнаете ли вы как свою елочку, нарисованную мелом на доске, если до этого вы знали ее как елочку из хвои? Вы узнаете только концепт елочки, но не сами ощущения от хвои.

— Можно создать в новой среде память на события в старой и запрограммировать функцию «знакомости» как эмоционального отклика на них.

— Проблема заключается в том, что в старой среде, то есть в биологическом теле, тебя не познакомить заранее с ощущениями в новой среде, чтобы ты сопоставил и узнал их, перейдя в эту среду. И наоборот, не воссоздать в кремниевой среде такие же «квалиа» как в биологической, они могут оказаться не сопоставимы. И не все чувства тела удастся перенести в робота. Это риск потери личности.

— Но почему это так важно, мне казалось, что достаточно передать сами воспоминания о себе.

— Нет. Прочитанная тобой книга про другого человека не делает тебя им. Ты знаешь, что это ты читаешь про него. Но ты можешь убедить себя, что это ты на самом деле. Просто не знал об этом. Или тебя может убедить в этом гипнотизер, если ты поддаешься внушению. Ты знаешь, что даже в природе случаются такие «подделки», например, множественные личности, которые живут в одном теле. Но вряд ли тебя интересует такой переход. Передача воспоминаний о себе, близких, работе, обстановки в мире не дает гарантии самоощущения личности. Ты можешь их даже забыть, это не приведет к потере личности. Ваше самоощущение возникает больше из знакомых мышечных чувств (проприепции) как отклика тела на мысли или намерения. Ты знаешь себя прежде всего как ощущения тела. И только потом как биографию и мысли. Загрузка фотографий в компьютер не сделает его тобой.