Аннака Харрис - Сознание. Все тайны разума – от растений до искусственного интеллекта

Тем не менее мы можем легко представить растения, которые показывают поведение, описанное здесь, без наличия чего-то, что означает быть растением. Таким образом, сложное поведение не обязательно проливает свет на то, обладает система сознанием или нет. Мы можем рассмотреть наши предубеждения о поведении с другой точки зрения, спросив: «Нужно ли системе сознание, чтобы осуществлять определенное поведение?» К примеру, нужно ли будет продвинутому роботу иметь сознание, чтобы похлопать свою хозяйку по плечу, когда он увидит ее плачущей? Большинство скорее всего ответит «не обязательно». По крайней мере одна технологическая компания создает компьютерные голоса, неотличимые от человеческих [11] Lauren Goode, “How Google’s Eerie Robot Phone Calls Hint at AI’s Future,” Wired , 8 May 2018, https://www.wired.com/story/google-duplex-phone-calls-ai-future; Bahar Gholipour, “New AI Tech Can Mimic Any Voice,” Scientifc American , 2 May 2017, https://www.scientifcamerican.com/article/new-ai-tech-can-mimic-any-voice . . Если мы запрограммируем ИИ, который однажды начнет говорить вещи типа: «Пожалуйста, остановись – больно видеть, что ты это делаешь!» – должны ли мы будем принять это как доказательство сознания, или же это сложный алгоритм, внутри которого «не горит свет»?

Мы предполагаем, например, что совершенно бессознательный алгоритм стоит за растущей способностью Google точно угадывать, что мы ищем, или за способностью Outlook от Microsoft предлагать адресата, которому мы бы хотели отправить следующее письмо. Мы не думаем, что наш компьютер обладает сознанием и уж тем более, что он о нас заботится, когда подсвечивает контакт дяди Джона, напоминая нам включить его в рассылку о рождении ребенка. Программное обеспечение, очевидно, запомнило, что дядя Джон обычно включен в рассылки вместе с отцом и кузиной Дженни, но у нас никогда не возникает импульса сказать ему: «Ой, спасибо, что подумал обо мне!» Вполне возможно, однако, что будущие технологии глубокого обучения позволят этим машинам выражать кажущиеся осознанными мысли и чувства (давая им больше возможностей манипулировать людьми). Проблема в том, что и сознательные, и бессознательные состояния могут быть сопоставлены с любым поведением, даже ассоциированные с эмоциями, так что поведение само по себе не обязательно сигнализирует о наличии сознания.

Внезапно наш рефлекторный ответ на первый вопрос – что составляет доказательство сознания? – начинает растворяться. И это ведет нас ко второму вопросу о том, обладает ли сознание какой-то важной функцией или же имеет хоть какой-то эффект на физическую систему, обладающую сознанием [12] Другими словами, если сознание приходит в конце потока обработки информации, влияет ли факт наличия опыта на последующую обработку мозга? Влияет ли сознание на мозг? См. также Max Velmans, How Could Conscious Experiences Affect Brains? (Charlottesville, VA: Imprint Academic, 2002), 8–20. .

Теоретически я могу вести себя тем же образом, что обычно, говорить все, что я говорю обычно, без обладания субъективным опытом происходящего, почти так же, как продвинутый робот (хотя, конечно, представить это сложно). Это суть мысленного эксперимента под названием «философский зомби», который обрел популярность благодаря философу Дэвиду Чалмерсу. Чалмерс просит нас представить, что любой человек фактически может быть зомби – кем-то, кто выглядит и ведет себя абсолютно так же, как все остальные, но без сознательного опыта внутри. Мысленный эксперимент о зомби неоднозначен, и другие философы, в частности Дэниел Деннет из университета Тафтса, утверждают, что это предположение невозможно – что полностью функциональный человеческий мозг должен обладать сознанием по определению. Но мысль о «зомби» достойна рассмотрения хотя бы в теории, потому что она помогает нам отследить те виды поведения, которые, на наш взгляд, должны быть подкреплены сознанием.

Основная цель – ослабить столько ложных предположений, сколько возможно, и это конкретное ментальное упражнение полезно вне зависимости от того, возможно ли существование зомби по законам природы. Представьте, что кто-то в вашей жизни на самом деле бессознательный зомби или ИИ (это может быть кто угодно – от продавца за прилавком магазина до близкого друга). В тот момент, когда вы станете свидетелем поведения этого человека, которое, по вашему мнению, должно совпадать с внутренним опытом, спросите себя, почему. Какую роль играет сознание в его поведении? Допустим, ваш друг-зомби становится свидетелем автомобильной аварии, выглядит соответствующе обеспокоенным и достает телефон, чтобы вызвать «Скорую помощь». Может ли он совершать эти движения без опыта тревоги и беспокойства или без сознательного мыслительного процесса, который заставляет его сделать звонок и описать, что произошло? Может ли все это иметь место, даже если бы он был роботом без ощущаемого опыта, вызывающего поведение в целом?