Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Еще одна увлекательная дискуссия развернулась вокруг подозрения, что в экспериментах недооценивается истинный уровень нашего осознания. Мы уже видели, что как бы мы ни были уверены в том, что полностью отдаем себе отчет относительно всех свойств окружающих нас предметов – их цвета, формы, взаимного расположения – в то время, когда смотрим на них, эксперименты обнаруживают нашу весьма незначительную способность все их запомнить и потом о них отчитаться {122} 122 См. сн. 105. . Некоторые исследователи пытались устранить это несоответствие, предполагая, что иногда у нас может быть “сознание без доступа”, то есть субъективное восприятие вещей, которые оказываются слишком сложными для сознания, чтобы вписаться в рабочую память и использоваться в дальнейшем {123} 123 “Сознание без доступа”, за и против, см.: Victor Lamme (2010), How neuroscience will change our view on consciousness, Cognitive Neuroscience , 204–20 ( http://www.tandfonline.com/doi/abs/10.1080/17588921003731586) . Например, когда у вас случается “слепота от невнимательности”: вы слишком отвлечены на другое, чтобы заметить предмет, который лежит прямо перед вами на виду, это вовсе не означает, что у вас нет осознанного визуального восприятия, просто образ этого предмета не сохранился в вашей рабочей памяти {124} 124 См.: https://www.youtube.com/watch?v=vJG698U2Mvo . Не следует ли отнестись к этому скорее как к забывчивости, а не как к слепоте? Другие исследователи не согласны с тем, что мы можем не доверять рассказам людей об их чувственном опыте, предупреждая о последствиях такого недоверия. Мюррей Шанахан смоделировал клиническое расследование, в ходе которого пациенты сообщают о полном избавлении от боли благодаря новому чудо-лекарству, которое, тем не менее, отклоняется правительственной комиссией: “Пациентам только кажется, что им не больно. Благодаря достижениям нейробиологии мы знаем лучше” {125} 125 См. сн. 126. . Но с другой стороны, известны случаи, когда пациенты случайно просыпались во время операции и им давали сильнодействующие препараты, чтобы заставить забыть о пережитом. Должны ли мы и в этом случае доверять их сообщениям, что они не испытывали никакой боли {126} 126 Подробное обсуждение этих вопросов см. в книге Дэниела Деннета Consciousness explained . ?

Если какая-то будущая система с искусственным интеллектом окажется обладающей сознанием, каковы могут быть ее субъективные переживания? В этом вопросе суть “еще более трудной проблемы” сознания, и это заставляет нас переместиться на второй уровень сложности (рис. 8.1). Мы не просто лишены в настоящее время какой-либо теории, позволяющей ответить на этот вопрос, но мы вообще не уверены в существовании логической возможности полностью на него ответить. В конце концов, как мог бы звучать удовлетворительный ответ? Как вы объясните слепому от рождения человеку, на что похож красный цвет?

К счастью, наша нынешняя неспособность дать полный ответ не мешает нам давать частичные ответы. Разумные инопланетяне, изучая органы чувств человека, придут, вероятно, к заключению, что цвета – это такие квалиа, которые воспринимаются связанными с каждой точкой на плоской поверхности (нашего поля зрения), в то время как звуки не воспринимаются пространственно локализованными, а боль – это квалиа, которая воспринимается привязанной к определенным частям нашего тела. Открыв, что на нашей сетчатке располагаются три типа светочувствительных колбочек, они могут прийти к заключению, что мы воспринимаем только три основных цвета и что все другие цветовые квалиа возникают в результате их сочетания. Измерив, сколько времени требуется нейронам для передачи информации через мозг, они могут заключить, что мы способны переживать не более десяти осознанных мыслей или чувственных переживаний в секунду и что, когда мы смотрим по телевизору фильмы, кадры которых сменяют друг друга по 24 раза в секунду, мы не видим каждый кадр в отдельности как неподвижную картинку, но складываем их в непрерывное движение. Измерив скорость выделения адреналина у нас в крови и время, которое он способен оставаться там не разлагаясь, они могли предсказать, что мы способны за считанные секунды впадать в гнев, испытывая приступы длительностью в несколько минут.

При помощи аналогичных, основанных на физике соображений мы можем построить некоторые ученые догадки относительно определенных аспектов самочувствия искусственного сознания. Прежде всего, пространство возможных переживаний искусственного интеллекта несопоставимо огромно в сравнении с тем, что можем испытывать мы, люди. У нас есть по одному классу квалиа для каждого из наших чувств, а у искусственного интеллекта может быть значительно больше типов датчиков и способов внутреннего представления информации, поэтому мы не должны попадать в ловушку, предполагая, что чувствовать себя искусственным интеллектом – это примерно то же самое, что чувствовать себя человеком.