Питер Бентли: Всё об искусственном интеллекте за 60 минут

Без паники! Если перевести на обычный язык, получится: «Существует x , являющийся человеком, и множество y , где y – человек, x бреет y тогда и только тогда, когда y не бреет y ». Это полезно, так как этот вид предикатной логики позволяет строить доказательства. В этом случае можно выявить парадокс, спросив: «Бреет ли брадобрей сам себя?» Или, в логическом выражении, что получится, если x = y ? Заменим x на y , и в результате «бреет ( x, x )» и обратное утверждение «¬бреет ( x, x )» будут истинными. Другими словами, человек должен брить сам себя и он не может брить сам себя одновременно – это парадокс. (Используя его, Рассел доказал, что математика неполна – то есть в ней невозможно доказать все).

Однако некоторые философы не соглашались с подобным подходом. Они считали, что манипулирование символами кардинально отличается от действительного понимания их значения. Джон Серл, один из таких философов, тактично возразил оппонентам в форме рассказа о китайской комнате. Суть его в следующем. Человек, не знающий китайский язык, находится в комнате, куда через специальное отверстие ему передают листы бумаги с вопросами, написанными китайскими иероглифами. У человека есть четкая инструкция, в которой говорится, каким образом можно получить ответ на поставленный вопрос. В результате человек находит ответ, записывает его на другой лист и возвращает.

У системы физических символов есть необходимые и достаточные ресурсы для решения общих интеллектуальных задач.

Казалось бы, человеку в комнате можно задать любой вопрос и получить на него разумный ответ. Но на самом деле в ответе не будет истинного понимания. Человек всегда следует инструкции, используя символы для поиска других символов. Он никогда не понимает ни вопроса, ни ответа, потому как не знает ни одного китайского иероглифа.

Серл утверждал, что именно это и делает ИИ, когда выполняет обработку символов. Он манипулирует ими в соответствии с установленными правилами, но никогда не понимает, что эти символы и правила значат. На вопрос «какого цвета спелый банан?» ИИ, вероятно, сумеет найти ответ и «сказать»: «желтого». Кроме того, он сможет последовать еще ряду правил, чтобы сделать ответ более человечным: «Желтого, конечно. Вы думаете, что я глупый?». ИИ не знает, что означает «желтый». Он не видит связи между символом «желтый» и внешним миром, поскольку не знает, что такое внешний мир, и ИИ никогда не удастся получить какой-либо жизненный опыт. Такой ИИ не обладает интенциональностью – способностью принимать решение на основе собственного понимания. Поэтому Серл утверждал, что ИИ просто симулирует интеллект. «Формальные символьные манипуляции сами по себе не обладают интенциональностью; они совершенно бессмысленны, – писал он. – Эта интенциональность, которой, как считается, обладают компьютеры, находится исключительно в умах тех, кто эти компьютеры программирует, использует, вводит в них данные и интерпретирует данные на выходе».

Ни одна логика не является достаточно сильной, чтобы поддерживать общую конструкцию человеческого знания.

Даже если такой ИИ пройдет тест Тьюринга, это не будет иметь значения. ИИ – это механизм, разработанный, чтобы обманывать нас, подобно античным родосским автоматонам. ИИ слаб, а создание так называемого сильного ИИ, то есть обладающего реальным интеллектом, может оказаться непосильной задачей.

Несмотря на критику, идеи символьной обработки привели к значительному успеху. Еще в 1955 году Ньюэлл, Саймон и Шоу разработали первую программу ИИ (даже до того, как был предложен термин «искусственный интеллект»). Они назвали ее «Логический теоретик» и на Дартмутской конференции в 1956 году с гордостью представили другим исследователям. Используя логические операции, программа могла доказывать математические формулы. Чтобы это продемонстрировать, Ньюэлл и Саймон взяли популярную книгу Альфреда Уайтхеда и Бертрана Рассела «Основания математики» и показали, что программа способна доказать многие из приведенных там формул. Более того, в некоторых случаях «Логический теоретик» предлагал более короткие и элегантные доказательства.