Коллектив авторов - На что похоже будущее? Даже ученые не могут предсказать… или могут?

Такие противопоставления носят функциональный характер. У нас есть все основания полагать, что они могут быть понимаемы в терминах обработки информации, а значит — и смоделированы на компьютере. (В настоящее время наиболее любопытной моделью машинного сознания является архитектура LIDA, учитывающая перечисленные выше различия и основанная на получившей широкое признание теории функционирования головного мозга.) Так что в этом смысле некоторые системы ИИ в будущем вполне могут обладать сознанием. Например, применительно к роботу, прошедшему тест Тьюринга, уместно говорить о способности планировать и думать.

Феноменальное сознание, или субъективное переживание квалиа (первичных ощущений — например, боли или красноты чего-то красного), представляется чем-то совершенно иным. Само его существование в преимущественно материальной Вселенной продолжает оставаться метафизическим парадоксом. Изучение природы феноменального сознания считается сложной задачей, так как добиться результата в этом случае куда сложнее, чем при рассмотрении функционального сознания.

Для объяснения квалиа выдвигались самые разные, исключительно спекулятивные решения, иногда кажущиеся абсурдными. Согласно некоторым из них, феноменальное сознание — такое же фундаментальное свойство Вселенной, как масса или заряд. (Разумеется, это вряд ли дает ответ на вопрос!) Другие обращаются к квантовой физике, используя одну непостижимую загадку для того, чтобы попытаться найди отгадку для другой. А многие просто опускают руки, отчаявшись найти ответ. Один известный философ заявил, что не только никто не имеет «ни малейшего представления о том, как нечто материальное может обладать сознанием», но также и «никто даже не знает, каково это — иметь хотя бы малейшее представление о том, как нечто материальное может обладать сознанием». Cловом, тема эта — самый настоящий философский тупик.

Если даже в случае с людьми феноменальное сознание — это непостижимая загадка, вряд ли мы способны судить о возможности его наличия у какой-либо системы ИИ в будущем. Наверняка это предположение само по себе кажется вам смешным. Во всяком случае, я точно не могу относиться к нему серьезно. Но к нему нужно относиться как к интуиции, которую можно просто принять без всяких возражений, а не как к тщательно обоснованному выводу.

Большинство исследователей ИИ — например, специалисты, занимающиеся разработкой архитектуры LIDA, — игнорируют феноменальное сознание. Им оно кажется слишком сложным. Однако есть ряд философов, которые под влиянием ИИ анализируют его в терминах обработки информации.

С их точки зрения, квалиа — внутренние вычислительные состояния, которые реализуются в головном мозге в рамках некой программы или своего рода «виртуальной машины». Эти состояния могут иметь причинно-следственное влияние на поведение (например, вызывать непроизвольную мимику). Под их влиянием могут меняться другие составляющие процесса обработки информации в сознании (например, мысли о мести в случае причинения кому-либо боли). Существование их возможно только в вычислительных системах с достаточно высоким уровнем структурной сложности. (Поэтому, например, у улиток их, скорее всего, нет.) Доступ к ним имеют лишь определенные сегменты системы. В результате появляется интимность. Кроме того, далеко не всегда их можно выразить словами, то есть описать способом, присущим более высоким уровням сознания, ассоциирующимся с рефлексией. Отсюда — невыразимость. Если подытожить: «Вам не дано прочувствовать мои ощущения от красного цвета. А я не способен в полной мере описать их словами ни вам, ни себе самому».

Если приведенные свойства квалиа соответствуют действительности, в будущем вполне могут появиться системы ИИ с феноменальным сознанием. Так что ставить точку в обсуждении пока еще рано.

Вопрос о том, является ли ИИ благом или, что важнее, будет ли он благом в будущем, также остается открытым. Упоминавшиеся выше поборники сингулярности отвечают на него решительным «да!». Даже если вы, как и я, сомневаетесь, что сингулярность когда-нибудь наступит, мы вряд ли станем спорить, что во многих областях современные технологии ИИ приносят немало пользы. И в будущем пользы от них будет только больше. Это совершенно очевидно. В этой связи кажется вполне уместным говорить об ИИ как о «благе».

Однако ряд тенденций в развитии ИИ вызывает беспокойство. Над некоторыми из них нам стоит серьезно задуматься уже сегодня. Один из очевидных примеров — угроза для рынка труда: дело не только в сокращении количества самих рабочих мест (на рынке как квалифицированного, так и неквалифицированного труда), но и в снижении требований к квалификации, обусловленном тем, что все больше рутинных операций выполняются машинами. В идеальном сценарии подход к организации труда будет пересмотрен таким образом, чтобы люди могли работать рядом с машинами: люди будут делать то, что могут делать только они, а всем остальным будет заниматься ИИ. Но даже в этом случае найдется немало любителей скучной рутины, которым будет непросто адаптироваться к новым условиям труда. Наверняка появятся новые рабочие места. Но, вероятнее всего, к образованию кандидатов будут предъявляться высокие требования, труднодостижимые для большинства людей — причем даже в самых развитых обществах.