Карл Саган - Драконы Эдема

Положение очень похоже на то, которое описано сразу двумя древними авторами — Плутархом и Плинием. Эта знаменитая история, дошедшая до нас через столетия, заключается в том, что некая собака, искавшая своего хозяина по его следам, добежала до места, где дорога разветвлялась. Принюхиваясь, она помчалась по левому ответвлению, затем остановилась, вернулась к развилке и, также нюхая землю, устремилась по среднему пути. Пробежав небольшое расстояние, собака вновь вернулась в исходную точку и теперь уже без всякого принюхивания радостно бросилась вдоль правого ответвления дороги.

Монтень, комментируя эту историю, утверждал, что в ней ясно просматривается собачья силлогистика: мой хозяин ушел по одной из этих дорог, но не по левой и не по средней, следовательно, по правой, и поэтому мне нет никакой надобности проверять этот вывод с помощью запаха — он подтверждается прямой логикой.

Сама возможность подобных рассуждений у животных, пусть даже и не в столь явно выраженной форме, беспокоила многих, и задолго до Монтеня Фома Аквинский безуспешно пытался разобраться в этой истории. Он приводил ее в качестве поучительного примера того, как может создаться впечатление наличия разума в случае, когда в действительности он отсутствует. Фома Аквинский не предложил, однако, никакого удовлетворительного объяснения поведению собак. Совершенно очевидно, что весьма точный логический анализ может выполняться при полной неспособности к словесному выражению мысли.

В своем подходе к машинному разуму мы находимся в сходном положении. Машины сейчас переступают важный порог, за которым они кажутся непредубежденному человеку разумными. Из-за своего рода человеческого шовинизма или антропоцентризма многие люди не готовы принять такую возможность. Но я думаю, что это неизбежно. По-моему, человеческое достоинство ни в коем случае не принижается из-за того, что сознание и разум оказываются функцией «просто» материи, хотя и достаточно сложно организованной, — напротив, тем воздается дань восхищения изощренности устройства материи и законам природы.

Отсюда никоим образом не следует, что компьютеры в ближайшем будущем смогут продемонстрировать нечто похожее на творческий дух человека, тонкость его чувств или его мудрость. Классической, хотя, вероятно, и апокрифической, иллюстрацией этой мысли служит машинный перевод, когда на вход машины подается текст на одном языке, к примеру английском, а на выходе ее получается текст на другом языке, скажем китайском. Рассказывают, что по завершении работ по созданию наиболее совершенной программы машинного перевода на демонстрацию ее в действии была приглашена делегация, в которую входил американский сенатор. Сенатора попросили предложить английскую фразу для перевода. И он, не задумываясь, сказал: «Out of sight, out of mind». Машина деловито выдала листок бумаги, на котором было написано несколько китайских иероглифов. Но сенатор не умел читать по-китайски. Поэтому, чтобы завершить испытания, программу запустили в обратную сторону: на вход машины подали китайские иероглифы, а на выходе она должна была выдать английский перевод. Посетители столпились вокруг нового листка бумаги, на котором была написана фраза, поначалу очень удивившая их: «Invisible idiot». [ 50 ]

Существующие программы лишь в самой малой степени способны справляться с проблемами даже не слишком высокой степени сложности. Было бы глупо доверять компьютерам при их нынешнем уровне развития принимать важные решения, и не потому, что компьютеры недостаточно разумны, а потому, что для решения сложной проблемы мы не сможем предоставить в его распоряжение всю необходимую информацию. Но использование людьми систем искусственного интеллекта в разумно ограниченных пределах представляется одним из двух главных действенных способов расширения возможностей человеческого интеллекта в ближайшем будущем. (Другим таким способом является совершенствование программ дошкольного и школьного обучения детей.)

Те, кто не рос вместе с компьютерами, обычно боятся их намного больше, чем те, кто привык к ним с детства. Известна история о маньяке-компьютере, который, выполняя роль банковского служащего, регулярно рассылал клиентам банка извещения о том, что за ними числится долг в 00 долларов и 00 центов, и не успокаивался до тех пор, пока не получал чек именно на эту сумму. Но такой слабоумный компьютер нельзя считать представителем всего племени вычислительных машин, а кроме того, его ошибки — это ошибки человека-программиста. Все возрастающее использование в Северной Америке интегральных схем и небольших компьютеров — для обеспечения безопасности полетов, в обучающих машинах, в электронных стимуляторах сердца, в разного рода электронных играх, в устройствах противопожарного оповещения и на автоматизированных заводах (и это еще далеко не полный список) — в высшей степени способствовало уменьшению того чувства непривычности, которое должно было вызвать столь революционное изобретение. Сегодня в мире около 200 000 цифровых компьютеров [ 51 ], в следующее десятилетие их число, вероятно, будет исчисляться десятками миллионов. Поколение, приходящее нам на смену, я думаю, будет относиться к компьютерам как к совершенно естественному или по крайней мере общеизвестному явлению в их жизни.