Николас Карр - Пустышка. Что Интернет делает с нашими мозгами

В своей статье в Journal of Nervous and Mental Disease три психиатра не просто предложили, чтобы «Элиза» служила заменой реальному доктору. Они начали по очереди, утверждать что психотерапевт по сути представляет собой разновидность компьютера: «Терапевт может рассматриваться как устройство принятия решения и информационный процессор, действующий на основании набора правил, чётко связанных как с краткосрочными, так и с долгосрочными целями».

Даже неуклюжее имитирование человека «Элизой» заставило людей думать о себе как об имитации компьютера. Такая реакция на программу встревожила Вейценбаума. Ему пришлось задать себе вопрос, который под­спудно занимал его на протяжении многих лет: «Что есть в компьютере такого, что заставляет человека думать о себе, как о машине?»

В 1976 году, спустя десять лет после дебюта «Элизы», он дал ответ на этот вопрос в книге «Возможности вычислительных машин и человеческий разум». Вейценбаум полагал, что для понимания эффектов, связанных с ком­пьютером, необходимо смотреть на машину в контексте интеллектуальных технологий прошлого, длинной последовательности таких инструментов, как карта и часы, трансформировавших природу и изменивших «восприятие человеком реальности». Подобные технологии стали частью «всего того, из чего человек строит свой мир». Приняв их на вооружение, мы уже не можем отказаться от них без того, чтобы не ввергнуть общество «в великие потрясе­ния или даже в хаос».

Он писал, что интеллектуальная технология «становится настолько неотъемлемым компонентом любой структуры... и интегрируется с ней, перемешиваясь с различными ключевыми подструктурами, что становится невозможно вычленить её, не разрушив саму структуру».

Этот факт, почти «тавтологический» 27, помогает понять, каким образом стабильно и неотвратимо росла наша зависимость от цифровых компьюте­ров после того, как они были изобретены в конце Второй мировой войны. «Наличие компьютера было совершенно необязательно для выживания современного общества в послевоенный период и далее, - полагал Вейцен- баум, - но энтузиазм и недостаточно критическое отношение со стороны наиболее "прогрессивных" представителей американского правительства, бизнеса и компьютерной отрасли превратило его в необходимый для выжи­вания ресурс, придав обществу (с помощью самих же компьютеров) новую форму». Он занимался сетями, работавшими по прин­ципу распределённого времени, и по собственному опыту знал, что роль компьютеров будет расши­ряться куда дальше, чем автоматизация процессов на производстве и в государственном управлении.

Компьютеры со временем должны были превратиться в посредников практически во всех разновидностях человеческой деятельности: в обучении, мышлении и общении между собой. Вейценбаум предупреждал, что вся исто­рия интеллектуальных технологий свидетельствует: «Внедрение компьюте­ров в некоторые особенно сложные виды человеческой деятельности может означать, что мы берём на себя необратимые обязательства». Наша интеллек­туальная и социальная жизнь может, подобно производственным процессам, меняться и приобретать новую форму, навязанную нам компьютерами.

Вейценбаум верил, что людьми нас делает именно то, что не поддаётся вычислениям: связи между нашими мыслями и нашим телом, опыт, который придаёт форму нашей памяти и мышлению, наша способность испытывать эмоции и сострадание. Наше более интимное общение с компьютером несёт в себе огромную угрозу. Чем большую часть жизни мы посвящаем изуче­нию бестелесных символов на наших экранах, тем сильнее теряем свою человечность и жертвуем именно теми качествами, которые отличают нас от машин.

По мнению Вейценбаума, единственный способ избежать этой судьбы состоит в том, чтобы с достаточным осознанием и смелостью отказаться от передачи компьютеру наиболее человеческих из наших видов умствен­ной и интеллектуальной деятельности, в особенности «задач, требующих мудрости».

Книга Вейценбаума оказалась не только трактатом о работе компьюте­ров и написании программ - она превратилась в настоящий крик души, страстный и порой болезненно точный рассказ программиста об ограни­чениях его профессии. Книга не понравилась коллегам Вейценбаума. После её выхода он получил ярлык «еретика» от ведущих компьютерных учёных, в особенности от тех, кто занимался разработкой искусственного интеллекта. Джон Маккарти, один из организаторов первой Дармутской конференции, от имени множества технологов в издевательской форме отозвался о «Возмож­ностях вычислительных машин и человеческом разуме» как о «необоснован­ной» книге и упрекнул Вейценбаума в ненаучном «морализаторстве».