Томас Метцингер - Туннель Эго

Вообразите, что мы создали общество роботов. Им будет не хватать свободы воли в традиционном смысле, так как они представляют собой каузально детерминированные автоматы. Но они будут обладать сознательными моделями самих себя и других автоматов своей окружающей среды, и эти модели позволят им взаимодействовать с другими и контролировать своё собственное поведение. Вообразите, что теперь мы добавляем две особенности к их внутренним моделям себя и моделям других: Первое — ошибочное убеждение, что они (равно, как и кто-либо другой) ответственны за собственные поступки; второе — «идеальный наблюдатель», представляющий интересы группы, такие, как правила справедливости для взаимных альтруистических взаимодействий. Что тогда изменится? Создадут ли наши роботы новые причинные свойства благодаря одному лишь ложному верованию в свободу собственной воли? Ответ: да; станет возможной нравственная агрессия, так как возникнет совершенно новый уровень соревнования — соревнования в том, кто лучше удовлетворяет интересам группы, кто обретет нравственное достоинство, и так далее. Теперь можно будет поднять свой социальный статус, обвиняя других в безнравственности или будучи лицемером. Возникнет целый новый уровень оптимизации поведения. Учитывая правильные граничные условия, сложность нашего экспериментального общества роботов переживёт взрывной рост, даже несмотря на то, что внутренняя когерентность останется. Это общество теперь сможет эволюционировать на новом уровне. Практика приписывания нравственной ответственности, даже если она основана на ошибочной ФСМ, породит решающее и вполне реальное функциональное свойство: Групповой интерес в поведении каждого отдельного робота станет эффективнее. Цена за самовлюблённость вырастет. Тогда, что произойдёт с нашим экспериментальным обществом роботов, если мы вернёмся к более старой версии себя-модели его членов, возможно, даровав им озарение?

Страстные публичные дебаты на тему свободы воли, которые в последнее время имели место в Германии, на мой взгляд — провальные дебаты, так как они произвели более смущения чем внесли ясности. Вот один из самых глупых аргументов в пользу свободы воли: «Но я знаю, что я свободен, потому, что я ощущаю себя свободным!». Ну, вы также ощущаете мир, которых заселен цветными объектами, и при этом вы знаете, что перед вашими глазами лишь отражение электромагнитных волн разных частот; то, что явлено вам в сознательном переживании, ни коим образом не может ничего доказывать. Другой аргумент звучит так: «Но это имело бы ужасные последствия! Поэтому, это не может быть правдой». Я, конечно же, разделяю эту озабоченность (думая о воображаемом эксперименте с обществом роботов), но истинность заявления должна быть установлена независимо от его психологических или политических последствий. Это вопрос элементарной логики и интеллектуальной честности. Но нейрологи так же добавили ко всеобщему смущению, причём из-за того, что они сами часто недооценивают радикальный характер своих собственных позиций. Это второе, на что я хочу обратить внимание в этом разделе.

Нейробиологи любят говорить о «целях действий», процессах «двигательного отбора» и «спецификации движений» в мозгу. Как философ (и со всем уважением), я должен заявить, что это всё также концептуальная чепуха. Если принимать всерьёз научный взгляд на мир, тогда такой вещи как «цель» существовать не будет, равно как не будет никого, кто выбирает или специализирует действие. Такого процесса, как «выбор», вообще не существует; всё, что у нас есть — динамическая самоорганизация. Более того, обработка информации, протекающая в мозгу человека, даже не подчинена каким-либо правилам. В конечном счёте, она протекает по законам физики. Лучше всего мозг описывается как сложная система, постоянно пытающаяся стабилизировать своё состояние путём генерации порядка из хаоса.

Опираясь на чисто научную физику, ничто во Вселенной не обладает внутренней ценностью, равно как и не содержит в себе цели; физические объекты и процессы — всё, что на самом деле есть. Это, кажется, позиция строгого редукционизма — именно то, во что сущности с моделями себя, наподобие нас, не могут поверить. Конечно же, репрезентации целей в мозгу биологических организмов существуют; однако, если нейробиология всерьёз отнесется к собственным фундаментальным выводам, то станет очевидно, что эти репрезентации целей не относятся ни к чему. Выживание, состояние телесного здоровья, благосостояние и безопасность, как таковые, не являются ни ценностями, ни целями в истинном значении этих слов; очевидно, что выжили только те организмы, которые представляли их в виде целей. Но склонность говорить о «целях» организма или мозга заставляет нейробиологов упускать из виду то, насколько сильно вмешиваются их фоновые убеждённости. Теперь мы можем видеть, что даже здравомыслящие учёные иногда недооценивают то, насколько радикальной может оказаться связка нейробиологии и эволюционной теории: Она сможет превратить нас в существ, которые максимизируют свою общую пригодность путём галлюцинирования целей.