Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

2. Модель психического. Когнитивисты открыли второй набор нейронных контуров, предназначенный для репрезентации чужих разумов — того, что другие люди думают, знают или во что они верят. Если мы не страдаем от заболевания, называемого аутизмом, то постоянно следим за другими людьми и приспосабливаем наше поведение к их уровню знаний, иначе говоря, к тому, что знают они (как нам кажется). Такая модель психического — это еще один важнейший элемент, которого нет у современных программ, — возможность следить за ходом мысли человека. У программ будущего должна появиться собственная модель репрезентации пользователя. Хорошо ли ему видно экран? Может, надо увеличить шрифт? Есть ли какие-нибудь данные, свидетельствующие о том, что сообщение заметили и поняли? Даже минимальная симуляция этого мгновенно создаст сильное впечатление того, что машина «мыслит». Вот почему для достижения релевантности (понятие, впервые описанное когнитивистом Дэном Шпербером) требуется модель психического. В отличие от современных компьютеров, люди не произносят совершенно нерелевантных реплик, потому что следят за тем, как действует на собеседника то, что они говорят. Навигатор сообщает вам: «На следующем перекрестке с круговым движением сверните во второй съезд направо» — и выглядит глупо, потому что не знает, что сообщение «Езжайте прямо» было бы гораздо более компактным и релевантным.

Глобальное рабочее пространство и модель психического — это две важнейшие функции, которыми обладает даже ребенок в возрасте одного года, а у наших машин их нет. Любопытно, что у двух этих функций есть кое-что общее: многие когнитивисты считают их ключевыми компонентами человеческого разума. Глобальное рабочее пространство дает нам «сознание 1.0» — тот вид ощущений, что есть у всех млекопитающих, который позволяет им «знать, что они знают» и, следовательно, универсально пользоваться информацией, направляющей их решения. Модель психического — это скорее чисто человеческая функция, которая обеспечивает нам «сознание 2.0» — ощущение того, что́ мы знаем, в сравнении с тем, что́ знают другие люди, и способность моделировать их мысли, в том числе и о нас, а следовательно, по-новому ощущать, кто есть мы.

Вот мой прогноз: когда машина станет учитывать, что знает она и что знает пользователь, мы незамедлительно назовем ее мыслящей, потому что ее образ действий будет уже мало отличаться от нашего.

Пространство для развития индустрии программного обеспечения огромно. Подход к построению операционных систем в будущем придется серьезно пересмотреть, чтобы включить в них такие возможности, как распределение данных между различными приложениями, моделирование образа мысли пользователя и управление средствами отображения данных сообразно предполагаемым целям пользователя.

Что я думаю по поводу мыслящих машин, так это то, что все мы до сих пор упускаем из виду самое главное. Подлинный преобразующий гений человека — вовсе не отдельный разум, а коллективный, совместный и распределенный интеллект; это тот факт (на который первым указал либертарианец Леонард Рид), что нужны тысячи людей для того, чтобы сделать обычный карандаш, и ни один из них сам по себе не знает, как сделать карандаш. Человечество превратилось в господствующий над миром техниум [57] Совокупность технологий, культуры, права, искусства и всех прочих творений человеческого ума как единая система. Термин введен Кевином Келли, редактором журнала Wired. — Прим. ред. не из-за какого-то изменения в головах людей, а из-за изменений среди них — из-за изобретения обмена и специализации. Это был сетевой эффект.

Мы понятия не имеем о том, чего могли бы добиться дельфины, осьминоги или вороны, если б их мозги были объединены в подобную сеть. И наоборот, если бы люди остались главным образом автономными индивидуумами, то так и продолжали бы жить как немногочисленные охотники-собиратели, целиком зависящие от своей среды обитания; это, очевидно, и делали обладавшие большим мозгом неандертальцы, пока совсем не исчезли. Человечество преобразовало объединение интеллектов в сети, произведенное магической силой разделения труда, — этот трюк впервые удалось проделать в малом масштабе в Африке около 300 000 лет назад, а затем он во все большем масштабе и с возрастающим темпом осваивался в течение нескольких последних тысячелетий.