Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Конечно, идея вычисления заключается как раз в том, что, как только у нас появляется полное детальное описание определенного процесса, мы можем запрограммировать его в компьютере. В конце концов, мы же знаем, что точно существуют физические системы, которые все это умеют. У большинства из нас есть опыт создания таких систем, и даже приятный опыт (по крайней мере, на ранних этапах). Мы называем эти системы детьми. Вычисление — все-таки лучшее и на самом деле единственное научное объяснение тому, как физический объект, которым является мозг, может действовать разумно. Но пока что нам почти ничего неизвестно о том, как устроен творческий процесс познания, который мы наблюдаем у детей. И пока мы этого не узнаем, самые большие и самые мощные компьютеры не сравнятся с маленькими и слабыми человечками.

В 1980-х в нью-йоркском Чайна-тауне, на пересечении Мотт-стрит и Бауэри, огромная толпа собралась на ярмарке видеоигр. Больше всего людей, даже больше, чем около аппаратов Pacman и Galaga, сгрудилось у машины, которую больше нигде не найдешь, — у курицы, играющей в крестики-нолики.

Это была единственная частично органическая машина: внутри нее сидела живая курица. Насколько я могу судить, курица играла в крестики-нолики достаточно хорошо, наравне с людьми. Игрок-человек делал ход, нажимая на кнопки, а курица наступала на пустые клетки на полу внутри автомата, выполненном в виде подсвеченного поля для игры в крестики-нолики, на котором отображались ходы обоих игроков.

Много раз, прогуливая в старших классах тригонометрию, я стоял перед этой курицей и гадал, как работает игра. Никакого явного позитивного подкрепления (например, корма) не было, так что я решил, что здесь имеет место негативное подкрепление в виде электрического тока небольшой силы, пропускавшегося через «неправильные» клетки на полу и ведущего курицу к единственной точке, из которой она могла выйти на ничью.

Когда я думаю о мыслящих машинах, то вспоминаю эту курицу. Если бы на ярмарке в Чайна-тауне я увидел компьютер, который играет в крестики-нолики, то он не стал бы из-за него прогуливать школу, не говоря уже про Pacman. То, что даже самый слабый компьютер может разобраться с этой игрой, — факт общеизвестный и неудивительный. Вот почему всех так сильно заинтересовала курица.

Волшебство заключалось как раз в том, чтобы представить себе мыслящую курицу, — тогда это было почти то же, что в 2015 году представить мыслящую машину. Но если курица не думала об игре в крестики-нолики и все же могла успешно в нее играть, то почему мы говорим, что компьютер думает, когда играет?

Такое суждение выглядит очень привлекательно, потому что у нас есть модель мозга — электричество движется по сетям, — по стечению обстоятельств согласующаяся с моделями, которые мы строим для машин. Такая согласованность может быть удобной в реальности, а может и не быть, но в любом случае на мышление все это похоже не только потому, что нечто производит вычисления, но еще и потому, что оно создает ощущение чего-то живого и теплого. В 2015 году ошибки делают машины, а люди должны их объяснять.

Мы обращаемся к иррациональному, когда рациональное нас подводит, и именно иррациональная часть больше всего напоминает наше мышление. Физик Дэвид Дойч предложил отделять ответы, которые дают машины, от объяснений, которые дают люди. И я полагаю, что в обозримом будущем мы продолжим обращаться к биологическим организмам, когда нам потребуются объяснения, — не только потому, что мозг лучше справляется с такой задачей, но еще и потому, что машины к этому не стремятся.

Проигрывать компьютеру — скучно, а вот проиграть курице — очень даже интересно, поскольку мы каким-то образом догадываемся, что у нас с нею больше общего — определенно больше, чем с сеткой у нее под ногами, по которой пропущен электрический ток. Покуда у мыслящих машин нет лимбической системы и той неточности, которая есть у курицы, компьютеры продолжат делать то, что у них получается лучше всего: давать ответы. И, пока жизнь будет чем-то большим, чем ответы на вопросы, люди — и куры — останутся в игре.