Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Мы только что убедились, что, хотя мы до сих пор не понимаем, что такое сознание, у нас накопилось удивительно большое количество экспериментальных данных о различных его аспектах. Но все эти данные получены для мозга, – чему они могут нас научить, если говорить о сознании машин? Здесь требуется массированная экстраполяция за пределы нашей нынешней экспериментальной базы. Другими словами, здесь требуется теория.

Чтобы понять почему, давайте сравним теории сознания с теориями гравитации. Ученые начали серьезно относиться к теории гравитации Ньютона потому, что они получили от нее больше, чем в нее требовалось вложить: простые уравнения, легко умещающиеся на салфетке, могут дать точное предсказание исхода любого эксперимента с силой тяжести, когда-либо проводившегося. Поэтому они так же серьезно отнеслись к его предсказаниям по поводу явлений, далеко выходящих за пределы той области, где теория проверялась, и их самые смелые экстраполяции, как оказалось, подтверждают свою пригодность даже для движения галактик и скоплений в миллионы световых лет в поперечнике. Однако прогнозы чуточку разошлись для движений Меркурия вокруг Солнца. Ученые тогда начали принимать серьезно улучшенную Эйнштейном теорию гравитации, общую теорию относительности, потому что она была, возможно, даже более элегантной и экономичной и к тому же правильно предсказывала те явления, где теория Ньютона оказалось неверной. Они последовательно и серьезно экстраполировали ее предсказания далеко за пределы той области, где ее проверяли, на явления столь экзотические, как черные дыры и гравитационные волны, в самую ткань пространственно-временного континуума и расширения нашей Вселенной, от самого ее рождения в огненном бурлящем вареве – и все со временем подтверждало эксперимент.

Аналогично, если какая-то математическая теория сознания, чьи уравнения уместятся на салфетке, будет давать успешные предсказания для результатов всех тех экспериментов, которые мы проводили со своим мозгом, то мы начнем серьезно относиться не только к самой теории, но и к ее прогнозам относительно сознания вне мозга – например, в машинах.

Хотя некоторые теории сознания возникли еще в глубокой древности, самые современные из них основываются на нейропсихологии и нейробиологии, пытаясь объяснить и предсказать осознанность с точки зрения событий, затрагивающих нейроны и происходящих в мозгу {111} 111 См. примеры теоретических подходов к исследованию сознания в: – Daniel Dennett (1992) Consciousness explained , Back Bay Books; – Bernard Baars (2001) In the Theater of Consciousness: The Workspace of the Mind , Oxford Univ. Press; – Christof Koch (2004) The Quest for Consciousness: A Neurobiological Approach , Roberts; – Gerald Edelman & Giulio Tononi (2008) A Universe Of Consciousness How Matter Becomes Imagination: How Matter Becomes Imagination , Hachette; – António Damásio (2012) Self Comes to Mind: Constructing the Conscious Brain , Vintage; – Stanislas Dehaene (2014) Consciousness and the Brain: Deciphering How the Brain Codes Our Thoughts , Viking; – Stanislas Dehaene, Michel Kerszberg & Jean-Pierre Changeux (1998) A neuronal model of a global workspace in effortful cognitive tasks, Proceedings of the National Academy of Sciences , 95, 14529–14534; – Stanislas Dehaene, Lucie Charles, Jean-Rémi King & Sébastien Marti (2014) Toward a computational theory of conscious processing, Current opinion in neurobiology , 25, 760–84. . Хотя некоторые из этих теорий дали определенные успешные прогнозы для нейронных коррелятов сознания, они не могут делать прогнозы о сознании машин и не стремятся к этому. Чтобы сделать скачок от человеческого мозга к машинам, нам понадобится обобщение нейронных коррелятов сознания – физические корреляты сознания , которые мы определим как устойчивые образования движущихся частиц, обладающие сознанием. Потому что если теория правильно предсказывает, что осознается и что не осознается, апеллируя только к физическим строительным блокам – таким, как элементарные частицы или силовые поля, то такая теория сможет делать предсказания не только для мозга, но и для иначе организованного вещества, включая будущие системы искусственного интеллекта. Поэтому давайте встанем теперь на физическую точку зрения: каким образом должно быть организовано множество частиц, чтобы оно было сознательно?

Но отсюда в действительности немедленно возникает еще один вопрос: каким образом нечто столь сложное, как сознание, может быть построено из чего-то столь простого, как частицы? Я думаю, что так происходит потому, что у самого этого явления имеются свойства, отличные от свойств составляющих его частиц. В физике мы называем такие явления “эмергентными” (от латинского emergo – возникать) {112} 112 Основательное обсуждение использования термина “emergence” в физике и философии см. в статье Дэвида Чалмерса: http://cse3521.artifice.cc/Chalmers-Emergence.pdf . Давайте попытаемся понять, что это такое, анализируя более простое эмергентное явление, чем сознание, – смачиваемость.