Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Если мы позволим машинам «мыслить», то начнем ли мы в самих себе видеть всего лишь мыслящие машины? Повлияет ли взаимодействие с технологией на наши когнитивные возможности? Важно помнить, насколько разнообразна и прямо-таки неимоверно огромна человеческая популяция. Использование компьютеров пока не связано с успешным размножением. У большей части людей доступ к технологиям в настоящее время ограничен. Эволюция нашего вида будет медленной, и на нее сильно повлияют наше окружение и доступность чистой воды, питательной еды и медицинского обслуживания. Если мы будем обсуждать человечность так же всесторонне, как то, что мы называем «мышлением», мир, возможно, станет лучше.

«Человеческий мозг есть мыслящая машина» — один из наиболее справедливых научных трюизмов, касающихся человека. Он занимает достойное место рядом с утверждениями «Сердце есть качающий кровь насос» и «Глаз есть камера». Насколько нам известно, все наши ощущения, эмоции, сильнейшие стремления, глубочайшая радость и печаль и даже (судя по всему) свобода воли — словом, вся полнота человеческих переживаний — обусловлены работой мозга. Столько людей принимают это утверждение как нечто само собой разумеющееся, как то, о чем мы всегда знали (на самом деле не всегда), что можно сделать вывод: наша наука и впрямь сильно продвинулась за последнюю пару веков.

Хотя такое видение мозга сейчас многим кажется естественным, большинству из нас сложно его полностью осознать. Примерно две трети американцев все еще верят в существование души, продолжающей жить после смерти, — а это трудно принять, если вы и вправду убеждены, что мозг производит всю полноту человеческих переживаний. У некоторых такой убежденности убавляется, когда они узнают о пробелах, все еще отделяющих нас от понимания того, как именно мозг производит мысль. Но вокруг этой идеи есть проблемы и посерьезнее.

Существуют опасения, что, приняв нейробиологическую природу наших переживаний, мы как человечество потеряем чувство собственного достоинства. Если широко распространится идея, что человеческий разум — результат работы машины, то не будем ли мы относиться друг к другу менее милосердно, терпимо и уважительно? И имеем ли мы в принципе право относиться друг к другу менее милосердно, терпимо и уважительно?

Нет, не будем, и нет, не имеем.

Во-первых, не стоит забывать: для того чтобы не уважать достоинство другого человека или разумного существа, не обязательно верить в то, что мозг — это мыслящая машина. Как показывает история, вера в нематериальную природу наших переживаний может спокойно существовать бок о бок с безразличием и жестокостью. Человеческие жертвоприношения, охота на ведьм, пытки и мученичество, например, основаны на доктрине о том, что разум и тело — независимые сущности. На протяжении всей своей истории люди с готовностью причиняли ужасную боль материальным телам других людей (или своим собственным), чтобы улучшить состояние их нематериальных душ. И могли бы ученые так долго практиковать вивисекцию без морального оправдания, обеспеченного им картезианским убеждением, будто тело (которым животные определенно обладают) и душа (которой, согласно картезианцам, у них нет) — это разные вещи? Я сомневаюсь.

Но, что еще важнее, современное понимание разума никакой угрозы человеческому достоинству не несет. С точки зрения морали важно вовсе не то, исходят ли ваши желания, надежды и страхи от машины, огромного невидимого голубя или щепотки магической пыльцы. Единственным этически актуальным фактом является то, что эти стремления есть внутри вас; остальным надо решить, что этичнее: помочь вам в реализации ваших стремлений или помешать. Есть интересная аналогия для одного из этических вопросов, касающихся клонирования человека: будут ли человеческие существа, произведенные посредством клонирования, наделяться теми же правами, что и человеческие существа, произведенные традиционным способом? Конечно, будут. Вопрос о том, как человеческое существо приходит в мир, не столь актуален с точки зрения этики. Важнее то, что человек в этом мире есть, у него имеются желания, стремления и страхи, точно так же, как у всех остальных. Нам нужно принять лишь одно этическое решение: помогать этому человеку или препятствовать в реализации его устремлений.