Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

В предвидении будущего есть что-то старомодное. Большая часть предсказаний, вроде трехдневной рабочей недели, личных джет-паков и безбумажного офиса, больше говорят о временах, когда делались сами прогнозы, чем о наших днях. Когда кто-то простирает руку и указывает в будущее, неплохо бы посмотреть, кому эта рука принадлежит.

Возможность появления универсального искусственного интеллекта уже давно привлекает любителей гаданий с помощью хрустального шара, причем из числа приверженцев как утопических, так и антиутопических взглядов. И все же спекуляции на эту тему достигли такой остроты и интенсивности только за последние несколько месяцев (недаром Edge выбрал именно такой вопрос), что можно сделать кое-какие выводы о нас и о нашей культуре сегодня.

Нам уже некоторое время известно, что машины могут превзойти людей в сообразительности в узком смысле слова. Вопрос в том, делают ли они это таким способом, который может или должен походить на более широкий модус человеческого мышления. Даже в такой «послушной» области, как шахматы, компьютер и человек сильно расходятся.

«Послушные» проблемы (например, задача определить высоту горы), которые правильно сформулированы и имеют четкие решения, легко перемалываются жерновами узкоспециализированного мышления. Еще более узкое мышление тоже бывает востребовано, например когда нужно перебрать огромные массивы данных в поиске корреляций, не отвлекаясь на размышления об их причинах.

Но многие из стоящих перед нами проблем — от социального неравенства до выбора школ для наших детей — это «коварные» проблемы, потому что у них нет верных или неверных решений (хотя мы надеемся, что одни из них лучше, а другие хуже). Они исключительно зависимы от контекста и имеют сложную совокупность причин, которые меняются в зависимости от уровня толкования. Эти проблемы плохо сочетаются с узким вычислительным мышлением. Факты в них перемешаны с ценностями, отражая пронизанное эмоциями человеческое мышление, которое их создало.

Для решения «коварных» проблем требуется именно человеческое суждение, даже если оно в каком-то смысле нелогично, особенно в сфере морали. Несмотря на логическое обоснование консеквенциалистского образа мышления, который может воспроизвести компьютер, склонность человека отличать действие от бездействия и смешивать результаты и намерения (как в принципе двойного эффекта) означает, что если нам нужны долгосрочные решения, то они должны удовлетворять человеческим инстинктам судей, то есть нас.

И именно это свойство нашего разума (сформированное эволюционными факторами) указывает на зияющую пропасть между человеческим мышлением и мышлением машины. Мышление не бывает мотивированным без определенных предпочтений, а у машин собственных предпочтений нет. Только разумы, которые понимают, что такое причина и следствие, способны формировать мотивы. Потому, если цели, желания, ценности — свойства человеческого разума, зачем тогда делать прогнозы о том, что искусственные сверхразумы станут чем-то большим, чем инструменты в руках тех, кто их программирует и у кого есть свои предпочтения.

Если сумбурность предсказаний об искусственном интеллекте и машинном обучении нам о чем-то и говорит, то точно не о том, что машина в скором времени сумеет эмулировать человеческий разум. Мы можем запросто добиться того же, рожая больше детей и давая им хорошее образование. Скорее, она говорит нам о том, что аппетиты растут.

Мы, понятное дело, восхищены нынешними достижениями вычислительной науки и теми, которые еще впереди; я бы с удовольствием запрыгнул в вагон этого виртуального беспилотного поезда, несущегося в светлое будущее. Но такое восхищение ведет к своеобразным перекосам в нашей культуре. Прежде метафорой мышления была «республика букв» — литература, а теперь оно все больше ассоциируется с компьютерами. Позади остается некогда спокойный, а ныне тревожный тип личности со складом ума скорее текстовым, нежели символьным. Мы начинаем новую жизнь, утомившись от неуклюжей несостоятельности беспорядочного мышления. Неудивительно, что министр образования Великобритании недавно посоветовала подросткам, стремящимся преуспеть в жизни, отдавать предпочтение точным наукам, а не искусству или гуманитарным дисциплинам. Простота и очевидность успеха определенного рода придает узкоспециализированному мышлению притягательный блеск.