Клиффорд Пиковер - Искусственный интеллект. Иллюстрированная история. От автоматов до нейросетей

Представьте себе, что вы сидите в закрытой комнате. Вы получаете лист бумаги с китайскими иероглифами через щель в стене. Хотя вы не знаете китайского, вы можете обратиться к инструкциям, которые расскажут вам, как записать иероглифами нужные ответы. Опираясь на эти инструкции, вы рисуете иероглифы на листе бумаги и передаете ответ во внешний мир через щель. Человеку, находящемуся снаружи, может показаться, что вы прекрасно знаете китайский язык; однако вы всего лишь следуете правилам, а китайский текст на обоих листах выглядит для вас полной тарабарщиной.

Этот мысленный эксперимент показывает, что программа не может наделить компьютер разумом, сознанием или пониманием, даже если компьютер и программа кажутся нам вполне разумными. Впрочем, некоторые философы возражают: даже если вы не понимаете китайского, система, состоящая из вас, закрытой комнаты, инструкций и вашей способности следовать инструкциям, действительно понимает этот язык – и представляет собой некое внешнее по отношению к вам сознание, о котором вы не подозреваете.

Другие предлагают мысленный эксперимент, в котором клетки вашего мозга постепенно заменяются электронными аналогами с теми же функциями ввода и вывода. Конечно, после замены нескольких ваших клеток вы все еще остаетесь собой. Но вполне возможно, что через год будут заменены все ваши клетки, и при этом ни в какой конкретный момент вы не утратите внезапно свое сознание и самосознание. Вы по-прежнему останетесь собой?

Конечно, для выполнения большинства практических задач искусственному интеллекту достаточно действовать разумно. И все же споры о китайской комнате и выводах из этого мысленного эксперимента не прекращаются.

СМ. ТАКЖЕ Тест Тьюринга (1950), Обработка естественного языка (1954), Психотерапевт ELIZA (1964), Параноик PARRY (1972)

Представьте себе, что вы сидите в закрытой комнате.Через щель в стене вы получаете лист бумаги с китайскими иероглифами. Вы не знаете китайского, но можете обратиться к инструкциям, которые расскажут вам, как записать нужные ответы. Так начинается любопытный мысленный эксперимент из области философии ИИ.

В будущем разумных роботов, вероятно, будет трудно отличить от людей – по крайней мере, на первый взгляд. Когда этот день настанет, что произойдет с человечеством и человеческими отношениями? Эта тема поднимается в нескольких известных кинофильмах, и один из них – культовый блокбастер 1982 г. «Бегущий по лезвию» режиссера Ридли Скотта (р. 1937), снятый на основе романа 1968 г. «Снятся ли андроидам электроовцы?» Филипа Дика (1928–1982). События фильма разворачиваются в 2019 г. в футуристическом Лос-Анджелесе. Главный герой должен «отправить в отставку» (убить) репликантов – искусственных людей. Эти репликанты настолько похожи на людей, что отличить их можно лишь с помощью теста Войта – Кампфа, в ходе которого им задают ряд вопросов и проверяют тонкие эмоциональные реакции и движения глаз. Одна из репликантов, Рейчел, считает, что она человек. Однако ей просто имплантировали воспоминания, чтобы создать более полную личную историю и иллюзию человеческих переживаний.

Размышляя о характере Рейчел в «Бегущем по лезвию», исследователь Елена Гуга пишет: «Люди стремятся создать такой ИИ, который они смогут контролировать. В фильме проблема автономного, независимого ИИ решается путем имплантации памяти, которой можно управлять… Этика, свобода воли, мечты, воспоминания и все те ценности, которые приписываются исключительно людям, ставятся под сомнение и радикально переосмысляются через популярные образы роботов-гуманоидов… достаточно развитых, чтобы проявлять, возможно, даже больше человечности, чем люди».

«Вопрос о том, как нам относиться к искусственным формам жизни, становится все более острым, – пишет философ Грег Литтман, – поскольку люди продолжают разрабатывать сложные компьютерные системы и творить чудеса с помощью генной инженерии. Философски насыщенные фильмы, такие как мрачные научно-фантастические кошмары Скотта, заставляют нас задуматься о наших обязательствах перед миром. Они позволяют нам проверить сложившиеся стереотипы на примере гипотетических ситуаций, чтобы выяснить, насколько последовательны наши теории».

СМ. ТАКЖЕ «Метрополис» (1927), Три закона робототехники Азимова (1942), Этика искусственного интеллекта (1976), «Терминатор» (1984), «Искусственный разум» Спилберга (2001)