Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Впервые возможность подумать о том, как мыслящие машины способны повлиять на жизнь человека, выпала мне на лекции, которую несколько десятков лет назад читал профессор информатики на коллоквиуме отделения психологии в Йельском университете. Темой лекции было: «Как повлияет на самооценку и благополучие людей то, что компьютеры смогут делать все лучше: обыгрывать чемпионов по шахматам, писать великие симфонии?»

«Хочу сразу уточнить две вещи, — сказал докладчик. — Во-первых, я не знаю, смогут ли машины когда-нибудь делать все это. Во-вторых, я единственный человек в комнате, у которого есть право на собственное мнение по этому вопросу». Последнее утверждение было встречено вздохами и нервными смешками.

Прошло несколько десятилетий, и вот компьютеры способны на многие из тех удивительных вещей, которые упоминал докладчик, — в этом не остается никаких сомнений, и, боюсь, ответ на вопрос о том, что́ их достижения будут означать для человечества, таков: машины нас совершенно деморализуют и оставят не у дел. Я расстроился, когда Deep Blue обыграл Гарри Каспарова в шахматы. Я мгновенно впал в депрессию, когда IBM Watson, его наследник, обошел своих соперников в Jeopardy! и, конечно, мы знаем, что машины уже умеют писать композиции, которые поразили бы самого Джона Кейджа!

Что будет с моральным настроем людей, когда любую их работу машины научатся делать на более высоком уровне? Как относятся пилоты самолетов к тому, что машина справляется с их обязанностями лучше, чем они? Сколько пройдет времени, прежде чем эта профессия устареет подобно сотням других? Как отнесутся бухгалтеры, финансисты и юристы к тому, что все, чем они зарабатывают себе на хлеб с маслом, станут выполнять машины, причем гораздо эффективнее и несравнимо быстрее? А врачи, физики и психотерапевты?

Как мы отнесемся к тому, что для нас просто не останется сколько-нибудь важной работы? Что машины будут сеять и жать вообще без нашего участия? Что машины научатся создавать еще более совершенные машины, о каких человек и помыслить бы не мог? Или что они станут более интересными собеседниками, чем самые умные из ваших друзей?

Стив Джобс сказал, что потребитель не обязан знать, чего он хочет. Компьютеры могут заявить, что люди не обязаны знать, чего хотят.

Как и вы, я люблю читать, слушать музыку, смотреть фильмы и спектакли, бывать на природе. Но я также люблю работать — и чувствовать, что моя работа интересна, по крайней мере, для меня, а может быть, она еще и улучшает чью-то жизнь. Как отнесутся люди вроде меня или вас к тому, что их работа окажется бессмысленной и что у них останутся только развлечения?

Мы уже знаем, как сказался на некоторых народах технический прогресс. Никому не нужно изготавливать собственные луки и стрелы и ходить на охоту с иной целью, кроме развлечения. Либо сажать, обрабатывать и собирать урожай кукурузы или бобов. Отдельные культуры, построенные вокруг подобных занятий, развалились и потеряли значимость для людей. Взять, к примеру, племена индейцев Юго-Запада США или сельское население Южной Дакоты, Алабамы, Нью-Мексико с их тоской, апатией и наркоманией. Стоит как следует подумать, смогут ли люди всего мира хладнокровно встретить новость о том, что им будет нечем заняться, кроме развлечений.

Это не значит, что невозможно определенным образом эволюционировать, воспринимая отсутствие работы как нечто приемлемое или даже приятное. Есть места, где людям почти нечего было делать целую вечность, и они это вполне нормально перенесли. Представители некоторых южнотихоокеанских культур вполне могли просто подождать, пока с дерева упадет кокос, или пройтись по лагуне и без особых усилий наловить рыбы. В некоторых южноафриканских культурах мужчины никогда не занимались ничем, что можно назвать работой, за исключением пары недель в году, когда требовалось их участие в посевной. А потом были еще праздные богачи, скажем, в Англии в 1920-е годы, проводившие время за бесконечной игрой в карты, бессчетными переодеваниями на завтрак, обед и ужин и серийными прелюбодеяниями с участием весьма привлекательных особ.