Джошуа Купер Рамо - Седьмое чувство. Под знаком предсказуемости - как прогнозировать и управлять изменениями в цифровую эпоху

Программа Вайзенбаума, которая могла выполнять примитивные коммуникативные программы, была настоящим прорывом. После разработки таких алгоритмов, которые позволяли компьютерам по-настоящему общаться с человеком, он захотел продемонстрировать истинный масштаб возможностей, открываемых этим новым подходом. Итак, его безобидная на вид идея состояла в том, чтобы построить систему, которая в какой-то степени сможет выстраивать личный диалог. Программа должна была воспринять то, что пользователь напечатает, а затем, основываясь на том, что она поняла, задать вопрос. Вайзенбаум позаимствовал этот простой подход к диалогу у американского психотерапевта Карла Роджерса, который считал, что лучше всего взаимодействовать с пациентами получается не посредством хитроумных ребусов Фрейда, а через доступные и легкие вопросы. Вайзенбаум написал две программы. Одна из них называлась DOCTOR и была создана для того, чтобы понимать введенные данные и на их основании решать, что говорить. Вторая программа использовала эту информацию, чтобы говорить с пользователем. Он назвал ее ELIZA в честь героини из «Пигмалиона».

Вот пример диалога между ELIZA и одним пользователем, который Вайзенбаум записал в 1965 году:

Пациент: Все мужчины одинаковые.

ELIZA: В КАКОМ СМЫСЛЕ?

Пациент: Они постоянно достают нас то одним, то другим.

ELIZA: НЕ МОГЛИ БЫ ВЫ ПРИВЕСТИ КОНКРЕТНЫЙ ПРИМЕР?

Пациент: Ну, я здесь из-за своего парня.

ELIZA: ВЫ ЗДЕСЬ ИЗ-ЗА СВОЕГО ПАРНЯ?

Пациент: Он говорит, что большую часть времени я хмурая.

ELIZA: МНЕ ЖАЛЬ СЛЫШАТЬ, ЧТО БОЛЬШУЮ ЧАСТЬ ВРЕМЕНИ ВЫ ХМУРАЯ.

Пациент: Это правда. Я несчастна.

ELIZA: ДУМАЕТЕ ЛИ ВЫ, ЧТО ТО, ЧТО ВЫ ПРИШЛИ СЮДА, ПОМОЖЕТ ВАМ НЕ БЫТЬ НЕСЧАСТЛИВОЙ?

Пациент: Помощь мне нужна – в этом я уверена.

Программа Вайзенбаума скоро стала известной в Массачусетском технологическом институте. (Там даже подшучивали над тем, что эта программа лучше вытягивает диалог, чем большинство непутевых студентов Кембриджского кампуса.) ELIZA выполняла именно то, что задумал Вайзенбаум: она давала пользователям возможность испытать, каково это – пользоваться машиной со своим независимым разумом. Вскоре программа разошлась по остальным кампусам и по различным НИИ, и с каждым новым этапом ее успеха Вайзенбаум все больше переживал из-за обратной связи, которую он получал. Беспокоила его не ELIZA, а ее пользователи.

Один за другим пользователи, общавшиеся с ELIZA, погружались в транс беседы с компьютером. Они уверовали в то, что машина способна помочь им. Даже профессиональные психологи писали Вайзенбауму, что его чудо-машина в один прекрасный день лишит работы тех, кто ставит диагнозы и консультирует людей. Такой ход событий казался естественным этапом неотвратимого прогресса, к которому все давно привыкли. Более технологичные холодильники, более надежные ремни безопасности, более быстрые самолеты, больше пластика – почему среди этого перечисления не может быть компьютера, проводящего терапию? Это звучало по-своему чудесно. «Ряд практикующих психологов действительно верил, что программа DOCTOR могла вырасти в почти полностью автоматизированную форму психотерапии», – писал Вайзенбаум несколько лет спустя в своем шедевре «Сила компьютеров и Разум людей». Он был в ужасе. Вайзенбаум прекрасно понимал, что участие, выражаемое ELIZA, было искусственным. Это был обычный код . «Мне казалось, что один может помочь другому справиться с его эмоциональными проблемами только при условии, что будет иметь место явное участие в его переживаниях». «Наука в последнее время обратилась в медленно действующий яд», – заключил он.

«Не могли бы вы выйти?» – сказал однажды секретарь Вайзенбаума, захваченный некоей особенно личной беседой с ELIZA. «Именно эта реакция на ELIZA показала мне яснее, чем когда-либо прежде, какие преувеличенные надежды даже самая образованная публика способна возложить – даже желает возложить – на технологии, которых она не понимает», – писал он. Он был серьезно обеспокоен. Кто вообще понимал технологии? Точно уж не пользователь. И вот здесь, перед ним сидит его секретарь, не имеющий даже отдаленного представления о том, как устроена машина, очарованный интимной беседой с ней. Доверяющий ей. Грандиозная сила таких машин – и людей, которые обладают контролем над ними, – вызывала панику у Вайзенбаума. «Программист, – заключил он беспокойно, – это создатель вселенных, над которыми властен только он один».