Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

В целом, я думаю, сознание – это физическое явление, которое воспринимает себя нефизическим потому, что оно подобно волне и вычислению: его свойства не зависят от его конкретного физического субстрата. Это логически следует из идеи представить сознание как информацию. Такое представление приводит к еще одной радикальной идее, которая мне решительно нравится: если сознание – это ощущение, возникающее при обработке информации определенным образом, то оно обязано быть не зависящим от субстрата – ведь значение имеет структура обработки информации, а не структура того вещества, в котором эта обработка производится. Другими словами, сознание оказывается дважды не зависящим от субстрата!

Как мы видели, физика описывает возмущения пространственно-временного континуума, которые соответствуют движущимся частицам. Когда конгломераты определенным образом организованных частиц подчинены определенным принципам, они порождают явления, которые мы называем эмергентными и которые очень мало зависят от порожденного частицами субстрата, и эти явления совершенно иначе воспринимаются. Яркий пример тому – обработка информации, или компьютрониум. Но теперь мы можем перенести эту идею на новый уровень: если обработка информации ведется в соответствии с определенными принципами, то результатом может оказаться эмергентное явление более высокого уровня, которое мы называем сознанием. Это помещает ваши субъективные переживания не на один, а на два уровня выше материи. Ничего удивительного, ваш дух ощущает себя нефизическим!

Но тогда возникает вопрос: каковы должны быть принципы, следуя которым, обработка информации становится сознанием? Я не претендую на знание всех достаточных условий, гарантирующих сознание, но есть четыре необходимых условия, на которые я делаю ставку и посвящаю им свои исследования:

Как я уже говорил, по-моему, сознание – это то, что испытывает информация, когда обрабатывается определенным образом. А значит, чтобы быть сознательной, система должна иметь возможность хранить и обрабатывать информацию, что подразумевают первые два принципа. Обратите внимание, что память не должна быть долгосрочной: я очень рекомендую посмотреть трогательное видео Клайва Уэринга о человеке, который выглядит совершенно сознательным, даже несмотря на то, что его воспоминания длятся меньше минуты {116} 116 Интервью с Клайвом Уэрингом, кратковременная память которого всего 30 секунд, см.: https://www.youtube.com/watch?v=WmzU47i2xgw . Я также думаю, что сознательная система должна быть достаточно независимой от всего остального мира, потому что в противном случае у нее не возникнет субъективного ощущения самостоятельного существования. Наконец, я думаю, что сознательная система должна быть интегрирована в единое целое, как утверждал Джулио Тонони, потому что если бы она состояла из двух независимых частей, то они чувствовали бы себя как две отдельные сознательные сущности, а не одна. Первые три принципа предполагают автономию : система способна хранить и обрабатывать информацию без заметного вмешательства извне, определяя тем самым свое собственное будущее. Все четыре принципа вместе означают, что система как целое автономна, но это не относится ни к одной из ее частей.

Если эти четыре принципа верны, то значит, для нас готова новая работа: нам надо найти строгие математические теории, в которых эти принципы были бы воплощены, и провести их экспериментальную проверку. Нам необходимо также проверить, не нужны ли какие-нибудь дополнительные принципы. Независимо от того, верна ли теория интегральной информации, исследователям надо попытаться разработать конкурирующие теории и проверить их все в самых совершенных экспериментах.

Мы уже обсуждали многолетние споры о том, стоит ли заниматься изучением сознания, не оборачивается ли оно с неизбежностью ненаучной чепухой и пустой тратой времени. Вдобавок к этому недавно начались споры на самом переднем крае исследований сознания – давайте изучим те из них, которые я считаю наиболее поучительными.

Теория интегральной информации Джулио Тонони принесла ее автору не только похвалы, но и немало критики, часть которой была весьма ядовитой. Скотт Ааронсон недавно так высказался в своем блоге: “На мой взгляд, тот факт, что теория интегральной информации ошибочна, – причем явно ошибочна, по причинам, прослеживаемым к самому ее ядру, – дает ей право занять место среди лучших 2 % всех математических теорий сознания из когда-либо предложенных. Почти все конкурирующие теории сознания, кажется мне, были настолько расплывчатыми, пустыми и бесформенными, что они могут только мечтать об ошибочности” {117} 117 Критика IIT Скоттом Аарансоном, см.: http://www.scottaaronson.com/blog/?p=1799 . К чести Ааронсона и Тонони надо сказать, что они ни разу не переступили черту дозволенного, когда я видел их во время обсуждения теории интегральной информации на недавнем семинаре в Нью-Йоркском университете: они вежливо выслушивали аргументы друг друга. Ааронсон показал, что у некоторых простых сетей логических гейтов чрезвычайно высокий показатель интегральной информации (Ф), и поскольку они очевидно не обладают сознанием, теория не верна. Тонони возражал, что если бы такие сети были построены, они были бы сознательны, и что утверждение Ааронсона об обратном антропоцентрически предвзято – примерно в той же степени, в какой утверждение хозяина скотобойни по поводу того, что у животных нет сознания, лишь на том основании, что они не могут говорить и совсем не похожи на людей. Мой анализ, с которым они оба согласились, заключался в том, что их разногласия относительно интегральной информации сводятся к тому, является ли интеграция лишь необходимым условием сознания (с чем Ааронсон соглашался), или это также и достаточное условие (на что претендовал Тонони). Последнее безусловно значительно более сильное и спорное утверждение, которое, я надеюсь, скоро можно будет проверить экспериментально {118} 118 Критика IIT Черрулло, который утверждает, что интеграция – недостаточное условие для сознания, см.: http://tinyurl.com/cerrullocritique .