Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Но какой будет мыслящая машина, которая сможет найти свое место в неспешных разговорах, что век за веком ведут между собою земля и вода? Какие качества потребуются такой машине? А что, если она не придет на смену какой-то сущности, а поможет нам понять сочетание человеческих, природных и технологических процессов, которые создают все, что мы видим на краю моря, а также то, какой отклик это в нас вызывает? Для описания целенаправленного взаимодействия людей и компьютеров сейчас используется термин «социальная машина» — «Википедия» и тому подобное, — так что назовем нашу машину «пейзажной».

Ах, да, целенаправленного… У одинокого путника может быть простая цель: наловить рыбы, разобраться в поведении птиц или просто без приключений вернуться домой до начала прилива. Но что, если он хочет просто побродить в одиночестве, чтобы обрести спокойствие, побыть на лоне природы, обогатить фантазию или найти духовную пищу? Тогда прогулка превращается в разговор с прошлым, не напрямую, не через камни, столбы или воду, но с помощью слов, с помощью стихов тех, кто ощутил себя человеком благодаря камням, столбам и воде и нашел слова для того, чтобы передать свои чувства. Так что цель одинокого путника состоит в том, чтобы усилить те самые качества, которые делают его человеком в его разделенной с другими людьми человечности. Это действительно сложная задача для мыслящей машины.

Машины давно помогают нам убивать. Механизмы — от катапульт до крылатых ракет — дают людям возможность уничтожать друг друга эффективнее. Несмотря на растущую изощренность машин для убийства, одно остается неизменным: моральная ответственность за их действия всегда была возложена на человеческий разум. Винтовки и бомбы по сути бездумны, так что вина падает не на них, а на человека, который спустил курок.

Но что, если у машины хватало бы ума самостоятельно принять решение убить? Такая мыслящая машина взяла бы вину на себя, очистив совесть тех, кому выгодно ее разрушительное действие. Мыслящие машины могут сделать для мира много хорошего, но они также могут сделать так, что людям будут сходить с рук преступления.

Люди давно искали способ дистанцироваться от актов насилия и пожинать его плоды, не мараясь. Машины не только увеличивают разрушительную силу наших действий, но и физически размывают их границы. Вместо удара рукой, ножом или удушения теперь используются более дистанционные — и утонченные — действия вроде нажатия на кнопку или на рычаг. Однако как бы машины ни увеличивали эту дистанцию, наш разум продолжает приписывать вину людям, стоящим за ними.

Исследования в области психологии морали показывают, что у человека, столкнувшегося с бедой, есть глубинная потребность обвинять кого-либо или что-либо. Когда кто-то пострадал, мы ищем не просто причину, но сознательную причину — мыслящее существо, которое решило причинить страдания. Это типично для человека, но неправильно. В последствиях ураганов или цунами люди часто обвиняют «десницу божью», истории известны примеры, когда обвиняли даже скот — французские крестьяне однажды предали суду свинью, убившую младенца.

Обычно жажде обвинения достаточно одного мыслящего существа. Если мы нашли такое существо, мы уже менее мотивированы искать другое. Если можно обвинить человека, то нет нужды поносить бога. Если можно обвинить сотрудника низшего звена, то нет нужды увольнять директора. И если в чьей-то смерти можно обвинить мыслящую машину, то нет нужды наказывать людей, которым это было выгодно.

Конечно, чтобы машина приняла на себя вину, она должна быть дееспособной и демонстрировать новое, непредвиденное поведение. Возможно, машины никогда не сделают чего-то действительно нового, но тот же тезис относится и к людям, «запрограммированным» эволюцией и культурным контекстом. К примеру, дети, несомненно, запрограммированы своими родителями, и все же — посредством обучения — они способны вырабатывать новое поведение и моральную ответственность. Подобно детям, современные машины — мастера учиться, и, похоже, они неизбежно выработают способы вести себя непредсказуемо, не учтенные теми, кто их программирует. Алгоритмы уже обнаружили нечто новое, о чем их создатели и не догадывались.