Карл Саган - Драконы Эдема

Почему вы думаете, что я хочу говорить о вас

Потому что вы разделяете мои чувства относительно этого проклятого компьютера

Какой вывод вы делаете из этого

Разумеется, что вы тоже ненавидите компьютеры

Вы думаете, что я тоже ненавижу компьютеры

А почему бы и нет, разве в них есть что-нибудь человеческое

Быть может, именно это нам и надо выяснить

Например, ни один компьютер не может разговаривать так, как вы

О

Я не могу понять, как это кого-то может одурачить простая машина

Вы в самом деле не можете

Да, ведь в конце концов в программе компьютера нет ничего творческого

Вы мне возражаете

Я убежден, что я прав

Вас беспокоит то, что вы уверены, что вы правы

Нет, нисколько, ни в малейшей степени Вы мне возражаете

Но ведь вы сказали, что согласны со мной

Разве это то, что вы от меня слышали

Почему вы не попробуете разубедить меня в том, что все, что умеют делать компьютеры, — это перемалывать цифры

Вы хотите, чтобы я попыталась переубедить вас

Но вы не можете сделать этого

Вы думаете, что я не могу сделать этого

Ну вот, например, может ли компьютер в такой беседе, как у нас с вами, предложить новую тему

Вы почему-то совершенно избегаете разговоров о своих родителях

Точно так же, как и вы сами

Вы думаете, что и я избегаю таких разговоров

Да, и в этом как раз видна разница между человеком и компьютером

Понимаю

Этому машинному психиатру не достает человеческой тонкости, знаний и интуиции, он всего лишь механическое (разумеется!) устройство, лишенное гибкости и относительно нечувствительное к эмоциональным оттенкам и всему, что не выражается словесно. И тем не менее он ведет беседу куда разумнее, чем многие. Поражает его реакция на реплику о «новой теме». Впрочем, скорее всего, она объясняется лишь счастливой случайностью. Машина запрограммирована таким образом, что она следит за частотой появления таких слов, как «мать», «отец», «родители» и им подобных, и если по компьютерным часам прошло заданное время, а ни одно из этих слов ни разу не было употреблено, то программа побуждает машину напечатать: «Вы почему-то совершенно избегаете...» Но, появившись именно в данном месте беседы, ремарка эта производит странное впечатление: как будто машина способна испытывать озарения.

Но в чем еще состоит психотерапия, как не в умении, требующем глубоких знаний и крайне непростом -грамотно реагировать на различные человеческие ситуации? И не запрограммирован ли психиатр таким образом, чтобы давать подобные реакции? Недирективная психотерапия основывается на весьма простых программах, а для возникновения озарений нужна программа, лишь немного более сложная. Эти слова никоим образом не имеют своей целью развенчать профессию психиатра, они несут в себе только благую весть о том, что грядет машинный разум. ЭВМ пока еще далеко не достигли той степени развития, чтобы можно было рекомендовать широкое распространение компьютерной психотерапии. Но надежда когда-нибудь создать чрезвычайно терпеливых, доступных и компетентных хотя бы в некоторых вопросах компьютерных врачей не кажется мне тщетной. Некоторые из уже существующих машинных программ заслужили высокую оценку больных, поскольку такой врач полностью лишен каких-либо пристрастий и всегда готов тратить сколько угодно времени на своего пациента.

В Соединенных Штатах сейчас создаются компьютеры, которые будут способны обнаруживать неисправности в своей собственной конструкции и определять их причину. После того как будут найдены систематические ошибки в работе машины, вышедшие из строя элементы ее автоматически заменяются либо выключаются из схемы. Ремонт будет осуществляться за счет заложенного в схему резерва, эффективность ремонта станет проверяться с помощью регулярно прогоняемых тестовых программ, а результат выполнения каждой из них известен заранее. Существуют уже программы — например, для компьютеров, играющих в шахматы, — которые могут учиться на собственном опыте или же усваивать опыт, накопленный другими компьютерами. Вычислительные машины с каждым днем выглядят все более умными. А поскольку управляемые программы становятся настолько сложными, что даже их создателю не по силам сразу же предугадать все возможные реакции машины, возникает ощущение, будто у компьютеров есть если не разум, то хотя бы свобода воли. Даже бортовая ЭВМ «Викингов», имеющая память всего только в 18 000 слов, уже находится на этом уровне сложности: нам не во всех случаях дано знать, как именно поступит она, получив данную команду. Если бы мы знали это, то могли бы сказать, что она «только» или «просто» машина. Но поскольку мы этого не знаем, то невольно начинаем подозревать у нее настоящий разум.