Томас Метцингер - Туннель Эго

Вне всяких сомнений вы найдёте эту идею не только абсурдной и безвкусной, но также и опасной. Можно полагать, что предложение такого рода не будет одобрено ни в одном из этических комитетов в демократическом мире. Предмет этого мысленного эксперимента, однако, в том, чтобы вы осознали, что нерождённые искусственные Эго Машины будущего не будут иметь своих героев в современных этических комитетах. Первые машины, удовлетворяющие минимальному достаточному набору условий сознательного переживания и самости, обнаружат себя в ситуации, похожей на ситуацию генетически спроектированных умственно отсталых человеческих младенцев. Как и эти последние, машины будут обладать всеми видами функционального и репрезентационного дефицитов — различными дисфункциями, проистекающими из ошибок человеческого проектирования. Вполне допустимо, что их системы восприятия — их искусственные глаза, уши и так далее — поначалу будут работать не очень хорошо. Они будут полуглухими, полуслепыми и столкнутся со всеми возможными сложностями в восприятии мира и себя в нём; и тогда, если они будут являться истинными искусственными Эго Машинами, то они будут, ex hypothesi, способны страдать.

Если бы у них была устойчивая телесная себя-модель, они были бы способны ощущать чувственную боль, как боль собственную. Если их постбиотическая себя-модель непосредственно укоренена в низкоуровневых саморегулирующих механизмах своего аппаратного обеспечения, то есть, точно так же, как наша собственная эмоциональная себя-модель укоренена в верхнем стволе мозга и гипоталамусе, то они сознательно будут ощущать себя. Они будут болезненно переживать потерю гомеостатического контроля, потому, что у них есть встроенное представление о своём собственном существовании. Они имели бы собственные интересы, причём, субъективно переживали бы этот факт. Они могли бы эмоционально страдать качественно отличным, от нашего, образом или в такой степени интенсивности, которую мы, создатели, даже не можем себе представить. На самом деле, первое поколение таких машин, скорее всего, будут иметь много негативных эмоций, вызванных неудачами в саморегулировании из-за различных аппаратных дефицитов, а также нарушений более высокого порядка. Эти негативные эмоции будут осознаваться, равно как и интенсивно ощущаться, но во множестве случаев, мы можем не быть способными понять или даже распознать их.

Давайте продолжим наш мысленный эксперимент. Представьте, что эти постбиотические Эго Машины обладают познавательной собой-моделью, то есть, являются интеллектуальными мыслителями. В таком случае, они смогут не только концептуально понять причудливость собственного существования в качестве простого объекта научного интереса, но также смогут интеллектуально страдать от сознания того факта, что им не хватает врождённого «достоинства», которое кажется таким важным их создателям. Они вполне могут осознавать себя второсортными, хотя и разумными, гражданами, отчуждёнными постбиотическими сущностями, используемыми в качестве взаимозаменимых экспериментальных инструментов.

Каково же это, «очнуться» развитым искусственным субъектом, который, несмотря на крепкое ощущение самости и даже переживание себя подлинным субъектом, является при этом лишь товаром?

История первых искусственных Эго Машин, постбиотических феноменальных самостей без гражданских прав, не имеющих какого-либо лобби в каком-либо комитете, прекрасно изображает, насколько связано появление способности к страданию с возникновением феноменального Эго; страдание начинается в Туннеле Эго. Оно также принципиально аргументирует неприемлемость создания искусственного сознания в качестве цели академического исследования. Альберт Камю говорил о солидарности всех конечных существ в их противостоянии смерти. В том же смысле, все разумные существа, способные к страданию, должны быть солидарны в противостоянии страданию. Исходя из этой солидарности, мы должны воздержаться от предприятия чего бы то ни было, что могло бы увеличить общее количество страдания и растерянности во вселенной. По мере того, как возникают теоретические сложности всевозможных типов, мы хотя бы можем прийти к согласию по поводу того, чтобы не увеличивать без необходимости общее количество страдания во вселенной. А создание Эго Машин, судя по всему, будет делать это с самого начала. Мы могли бы приступить к созданию страдающих постбиотических Эго Машин до обретения понимания того, какие свойства нашей биологической истории, наших тел и мозгов, являются корнями нашего собственного страдания. Предотвращение и минимизация страдания, где это только возможно, также включает в себя этику принятия риска: Я уверен, что мы не должны даже рисковать с созданием искусственных феноменальных себя-моделей.