Нейт Сильвер - Сигнал и шум. Почему одни прогнозы сбываются, а другие – нет

Однако самые интересные и пророческие мысли, изложенные По в эссе о Механическом турке, связаны с его представлением о том, что мы теперь называем «искусственным интеллектом» (сам термин появился только через 120 лет). В эссе выражалась очень глубокая и довольно привычная для наших дней обеспокоенность тем, что «компьютеры» смогут имитировать высшие функции человека или даже превзойти их.

По признавал, насколько впечатляющим был сам факт, что машины вообще могут играть в шахматы. Едва ли кто задумывался о первом механическом компьютере, который Чарльз Бэббидж называл «вычислительной машиной», в то время, когда По делился своими мыслями. Предложенный Бэббиджем компьютер, так и не достроенный при его жизни, мог в лучшем случае рассчитывать значения некоторых элементарных функций типа логарифмических в дополнение к операциям сложения, вычитания, умножения и деления. О работе Бэббиджа По отзывался как о достаточно впечатляющей. Однако в машину вводили предсказуемые значения на входе, затем в ней крутились несколько шестеренок, и машина выдавала предсказуемые значения на выходе. Эта машина не обладала никаким интеллектом – работа, выполняемая ею, была в чистом виде механистической. С другой стороны, компьютер, который мог играть в шахматы, казался почти чудом, поскольку для хорошей игры ему нужно было делать собственные суждения. По заявлял, что если бы машины, играющие в шахматы, действительно существовали, то они должны были бы, по определению, играть безупречно – машины не допускают ошибок при вычислении. Он подчеркивал тот факт, что «Турок» не играл в шахматы идеально – машина выигрывала большинство игр, но иногда проигрывала, – как еще одно доказательство того, что это была не машина, а аппарат, находившийся под контролем человека и обладавший человеческим несовершенством.

Хотя логика По не вполне корректна, подобное почитание машин осталось с нами до сих пор. Мы воспринимаем компьютеры как удивительные изобретения, одно из самых ярких выражений человеческого гения. Согласно опросам, Билла Гейтса считают одним из наиболее уважаемых людей в Америке {608}, а Apple и Google – одними из самых значимых компаний {609}. Мы ожидаем, что компьютер будет вести себя безупречно и изыщет возможность преодолеть человеческие недостатки своих создателей.

Более того, мы считаем расчеты компьютерных программ безукоризненно точными и, возможно, даже пророческими. В 2012 г. двум британским подросткам было предъявлено обвинение в обмане инвесторов на сумму более миллиона долларов – они предлагали легковерным вкладчикам «робота» под названием MARL {610}, занимавшегося подбором акций для инвестирования. По словам подростков, робот мог производить «1 986 832 математических операций в секунду» и при этом не быть подверженным человеческим эмоциям, что якобы позволяло инвесторам удваивать вложенные ими денежные средства каждые несколько часов, следуя рекомендациям MARL, касающимся дешевых акций {611}.

Но даже когда предсказания, выданные компьютерами, не внушают нам доверия, они способны развить в нас страхи. Например, компьютеры, рассчитывающие шансы на выживание пациентов больниц, о которых иногда пишут в новостях {612}, начинают считать собратьями HAL 9000, компьютера из фильма «Космическая одиссея 2001», решившего, что он больше не нуждается в астронавтах, и пытавшегося их удушить, лишив подачи кислорода.

Поскольку мы входим в эру Больших данных, а объемы информации и вычислительной мощности растут в геометрической прогрессии, пришло время выработать более здоровое отношение к компьютерам и к тому, что они могут для нас сделать. Технология имеет свои плюсы, поскольку позволяет нам повысить эффективность работы, но не следует ждать, что машины будут думать за нас.

Испанский инженер Леонардо Торрес де Киведо в 1912 г. изготовил версию Механического турка, которую назвал El Ajedrecista (шахматист). Хотя El Ajedrecista иногда и называют первым компьютерным игровым компьютером {613}, функциональность этого устройства была очень ограничена, в частности, он мог разыгрывать лишь позиции в эндшпиле, когда на доске оставалось всего три фигуры. (Кроме этого, у El Ajedrecista не было примечательной особенности «Турка» – кукольной головы в тюрбане.)

Отцом современного шахматного компьютера был Клод Шэннон из МТИ, математик, считающийся основоположником теории информации. В 1950 г. Шэннон опубликовал работу под названием «Программирование компьютера для игры в шахматы», где были представлены некоторые алгоритмы и техники, которые легли в основу сегодняшних шахматных программ {614}. Он также признал, что именно шахматы представляют собой столь интересную задачу, решение которой позволит тестировать мощности машин, обрабатывающих информацию.