Дункан Уоттс - Здравый смысл врет. Почему не надо слушать свой внутренний голос

А вот и вторая характерная черта, отличающая здравый смысл от формальных знаний: если потенциал последних кроется в возможности сводить полученные специфические данные к логическим категориям, описываемым общими принципами, то потенциал первого заключается в возможности справляться с каждой отдельно взятой ситуацией самой по себе. Например, именно благодаря здравому смыслу наши одежда, действия и речь в присутствии начальника будут отличаться от поведения в присутствии друзей, родителей, друзей родителей или родителей друзей. В то время как во всех этих случаях формальная система знаний пытается вывести надлежащее поведение из единого, более общего «закона», здравый смысл просто «знает», как нужно поступать в данной конкретной ситуации {17} 17 Необходимо отметить, что рассуждения с позиций здравого смысла явно поддерживаются некими «резервными системами», действующими наподобие общих принципов. Таким образом, в случаях, когда вследствие некоего непредвиденного обстоятельства общеизвестное правило совладания с конкретной ситуацией не срабатывает, мы, нисколько не смутившись, обращаемся к правилу более общему, коим далее и руководствуемся. Впрочем, попытки формализовать данные резервные системы, предпринимаемые прежде всего в исследованиях искусственного интеллекта, до сих пор заканчивались неудачей (см. Деннетт Д. (Dennett D.) «Cognitive wheels: The frame problem of AI», 1984). Следовательно, как бы они ни работали, они не имеют ничего общего с логической структурой, характерной для естественных наук и математики. . Именно по этой причине известные всем «прописные истины» оказалось так трудно воспроизвести в компьютерах: в отличие от знаний теоретических, основанные на повседневном опыте подразумевают относительно большое количество правил поведения даже в небольшом количестве особых ситуаций. Допустим, нужно запрограммировать робота, чтобы он ориентировался в метро. На первый взгляд, задача относительно проста. Однако очень скоро выясняется: даже один-единственный компонент этой задачи — как, скажем, «правило», запрещающее просить других пассажиров уступить свое место, — зависит от сложного множества других правил, вроде бы не имеющих к нему ни малейшего отношения. Это, например, принципы распределения мест в вагоне или вежливого поведения в общественных местах. Это правила жизни в многолюдных городах. Это общие нормы вежливости и любезности, справедливости и собственности.

Все попытки формализовать обыденные знания неизбежно наталкивались на тот или иной вариант вышеизложенной проблемы: чтобы научить робота имитировать даже ограниченный диапазон человеческого поведения, приходится, в некотором смысле, учить его всему. В противном случае бесчисленные тонкие различия между тем, что важно, что должно быть важно, но не важно и что может стать важным в зависимости от обстоятельств, всегда будут сбивать с толку даже самого совершенного робота. Стоит ему попасть в ситуацию, лишь самую малость отличающуюся от запрограммированных, как бедняга потеряет всякое представление о том, как себя вести. Он будет явно отличаться от остальных роботов. И всегда ошибаться {18} 18 Обсуждение проблемы здравого смысла и искусственного интеллекта см. Мински М. (Minsky M.) «The emotion machine» (2006). .

Люди, которым не хватает здравого смысла, чем-то похожи на незадачливого робота. Они не понимают, на чем следует сосредотачивать внимание, — это раз. И не понимают, чего конкретно они не понимают, — это два. По той же самой причине, по которой программирование роботов представляет собой крайне непростую задачу, удивительно сложно объяснить лишенному здравого смысла человеку, что именно он делает не так. Приведите ему множество примеров того, что он сказал и сделал неправильно, — и, вероятно, ему удастся избежать повторения данных конкретных ошибок в будущем. Но как только ситуация изменится, все вернется на круги своя. В Академии у нас было несколько таких курсантов: исключительно умные, компетентные ребята, которые никак не могли сообразить, как играть в нашу общую игру. Все знали, кто они такие, и все видели, что они чего-то не понимают. Увы, не зная, в чем загвоздка, мы не могли им помочь — и большинство из них, растерянные и ошеломленные, в итоге покинули военную службу.

Как ни странно, здравому смыслу присущи кое-какие любопытные особенности. Одной из наиболее примечательных является его разительное изменение в зависимости от эпохи и культуры. Несколько лет назад, например, предприимчивая группа экономистов и антропологов решила проверить, как представители различных культур играют в так называемую игру-ультиматум. Идея заключается в следующем. Из двух человек один получает 100 долларов, которые затем должен разделить со вторым участником — причем может отдать всю сумму, предложить любую ее часть или не дать вообще ничего. Второй человек либо соглашается на сделку, либо отказывается от нее. Если он принимает предложение, оба участника получают оговоренные суммы, если отвергает — оба остаются ни с чем. Отсюда и «ультиматум».