Станислав Лем: Искусственный разум

Хотя Deep Blue и весит около полутора тонн, мы функционально можем его признать за ОДИН модуль, так как знаем, что мозг человека состоит из огромного количества модулей, большинство которых nota bene вообще функционально не занято чем-либо, что не происходит в самом организме (в теле) и за пределами организма. Большинство модулей мозга служит телу, происходящим в нем процессам обмена и изменений (тканевых, например). Но только «меньшинство» может активно проявлять «экстериоризованную разумность» [от exterior — внешний вид]. Тогда, например, все «экспертные программы», от геологических до медицинских, — это другие модули, а загвоздка в том, что это такие вместилища выборочно сформированной информации, по существу актуальной, и в этом смысле оптимальной, что они являются как бы дистиллятами современного состояния наших лучших знаний с одним, но чрезвычайно важным недостатком: они — модули «для себя» и для нашего использования, когда они как бы «призываются» для этого, но они «не понимают друг друга», и мы пока не знаем, что сделать, чтобы они соединились бы более-менее так, как это происходит в нашем мозгу. Модули мы уже можем составлять, но дать им способность самопроизвольно влиять на себя мы не умеем, и В ЭТОМ СЕЙЧАС ГЛАВНАЯ БЕДА «Artificial Intelligence» [ «Искусственный интеллект»]. Люди, увлеченные AI, как Марвин Мински [Marvin Minsky], по-прежнему уверены, что МОЖНО сконструировать искусственный интеллект, а также философы, как, например, Даниэл Деннет [Daniel Dennet], который, пожалуй, раз сто объяснил («выяснил»), на чем основывается сознание и «окончательно сорвал маску и решил» загадку сознания. Такие люди живут с ощущением, что от работающего Artificial Intelligence нас отделяет шаг или пара шагов. Однако, я опасаюсь, что это не так просто. То, что целостную работу мозга составляет общая деятельность отдельных модулей, мы сегодня знаем уже наверняка (если мы вообще что-то знаем наверняка).

Вопрос, который мы должны поставить сейчас, звучит так: ЧТО еще мы знаем, а чего НЕ ЗНАЕМ? Так, например, известно, что мы видим то, что является видимым ДЛЯ НАС, но это в значительной мере следует из ОБУЧЕНИЯ и ТРЕНИРОВКИ. Люди, слепые от рождения, которым удается через несколько лет восстановить зрение, «видят» хаос цветных пятен в движении и ничего больше, но, например, «просмотр самых лучших фотографий» людьми, которые никогда никаких изображений не видели, показывает, что и они не в состоянии автоматически преобразовывать в своем мозгу проекцию на плоскости в трехмерную стерео-проекцию. А, например, для собаки самый отчетливый и красочный образ на экране телевизора ничего не являет собой и «ничего не значит». То есть, «обработка» данных является делом особым информационно и функционально: на самом деле, уже появляются компьютерные системы, которым можно голосом диктовать на том языке, на который система запрограммирована, и даже после подготовки система может научиться писать или выстукивать, как стенотипистка, произносимый текст, что является очень хорошим достижением конструкторов, но и такая система «ничего не понимает». В последнее время появились (параллельно с шахматными матчами компьютеров и людей) очередные попытки разыграть «ТЕСТ ТЬЮРИНГА», то есть такие, чтобы компьютер имитировал в разговоре обычного человека. [ «Тьюринг в своей работе „Может ли машина думать?“ предлагает в качестве определяющего критерия „игру в имитацию“, которая заключается в том, что задаем Кому-либо произвольные вопросы и на основе ответов должны сделать вывод, является ли этот Кто-то человеком или машиной. Если не можем отличить машину от человека, следует признать, что машина ведет себя как человек, то есть имеет сознание» это и есть тест Тьюринга. Цитата взята из эссе С. Лема «Душа в машине» из сборника «Мегабитовая бомба»]. Окончились они жалким поражением: просто компьютеры, как ничего не понимали 50 лет назад, так по-прежнему ничего не понимают.

В определенном, но только в определенном, тонком смысле, связано это с тем, что А) получившие зрение (как это было сказано выше) слепые ничего не видят впоследствии, то есть не способны совершить мозговых, у нас — абсолютно автоматических и ВНЕСОЗНАТЕЛЬНО происходящих операций, которые дают нам возможность «видения»; В) подрастающие и выросшие без контактов с нормальной человеческой средой дети где-то после 7–9 лет не в состоянии научиться разговору: они остаются почти немыми и НЕ ПОНИМАЮТ того, что им говорят; и так далее. Значительная часть мозговых модулей, связанная с жизненными процессами (функциями) организма, в выше названных недостающих контактах с окружением НЕ НУЖДАЕТСЯ (мочеиспусканию и испражнению не надо учиться: мы учимся только обстоятельствам и способам, какими ЭТО следует делать, потому что в гостиной никто не спускает штаны, чтобы облегчиться). Однако же и без обучения, без тренировки мозг достичь нормально средней способности не в состоянии. Тогда было бы странным ожидать возникновения аналогичных или, по крайней мере, подобных способностей в результате соответствующего программирования компьютера, хоть бы он и должен был весить сто тонн.

Читать дальше