Ричард Уотсон - Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?

Тревожный пример исторической амнезии и отсутствия элементарной порядочности – это «селфи» в значимых местах. Барак Обама и Дэвид Кэмерон сделали селфи на похоронах Нельсона Манделы. Подростки, посетившие Освенцим и сделавшие селфи перед ржавым знаком на воротах с надписью «Arbeit Macht Frei» («Труд освобождает»), явно не имеют понятия, что представляют собой эти ворота и куда они ведут, и это подтверждает мою точку зрения о бессодержательной пустоте, в которой живут некоторые люди.

И наконец, мы должны быть бдительны в отношении угрозы вымирания всего человечества.

Маловероятно, что на Земле появится некая другая форма разума, способная стать для нас прямой угрозой, потому что для этого мы должны создать для машин сознание и, возможно, систему самовоспроизводства. Но тем не менее нам следует быть готовыми. У нас есть протоколы по урегулированию ядерной, биологической и химической угроз, так почему бы не расширить их, чтобы предусмотреть возможность угрозы со стороны полностью сознательных машин?

Соглашений о том, где, когда и зачем используются автономные цифровые системы, не требуется. Изменение трех законов роботехники, предложенных Айзеком Азимовым в 1942 году, может быть хорошим стартом, хотя я бы сосредоточился на невидимой угрозе автоматизации в той же степени, как на предполагаемой угрозе появления роботов-убийц.

Законы Азимова требуют, чтобы робот (1) защищал людей, (2) исполнял приказы человека (если это не идет вразрез с первым законом) и (3) защищал свое существование (если это не вступает в противоречие с первым или вторым законами). Я предлагаю, чтобы эти законы были обновлены, расширены и переделаны таким образом, чтобы применяться ко всем роботам, автономным машинам и экспертным системам.

Первый закон должен остаться, но с дополнительным уточнением, что защита включает в себя долгосрочное физическое и психическое здоровье. С другой стороны, боевым роботам может быть позволено при определенных обстоятельствах убивать противников, если это происходит под контролем человека. Очевидно, что это представляет собой противоречие с первым законом и открывает тот самый ящик Пандоры в качестве формы узаконенного убийства, но если цель противника – массовое убийство мирных жителей, это изменение, безусловно, заслуживает обсуждения. Расширение этого положения на полицейских роботов, которым разрешено убивать людей в особо опасных ситуациях, возможно, окажется приемлемым, если такие действия будут предметом обязательной судебной проверки. В большинстве стран у сотрудников полиции есть такая функция.

Что касается второго закона, то общество должно договориться о рейтинге человеческих команд. Кроме того, кто будет виноват, когда что-то пойдет не так или когда человек будет ранен или убит? Это человек-оператор или надсмотрщик, хозяин, программист, дизайнер или производитель? Если машины действительно в конечном счете станут сознательными, ответственность может лежать на машине, но до этого ответственность должна лежать на людях. (Огромная благодарность Google и DeepMind за развязывание этических дискуссий в рамках их программы искусственного интеллекта.)

Когда Азимов писал свои законы, он представлял роботов, прежде всего, как реальных существ, в то время как современные робототехники в той же мере занимаются разработкой программного обеспечения. Таким образом, третий закон должен распространяться на поддержание целостности данных. Когда что-то идет совсем не так, как надо, все записи должны быть полностью доступны. Данные имеют свой долг и свои обязанности. Все программы должны быть открыты для общественного контроля, равно как любые другие машины, скрывающиеся за этим кодом. Тем не менее в обозримом будущем ответственность должна будет лежать на людях и только на них.

Возможно, вдохновившись ранними рассказами Азимова, мы должны добавить еще нулевой закон, в котором будет говориться, что машины имеют право на обращение к людям относительно любого закона, если они считают, что следует шире рассмотреть понятие общественного блага.

Прогресс часто определяется в технологических терминах, но мы должны сосредоточиться на более широкой формулировке. Мы надеемся, что это породит дискуссии о природе идеального общества и сместит дискуссию от того, что можно сделать, к тому, что должно быть сделано. Центральное место в этом занимает вопрос – не принижают ли новые идеи человеческое достоинство?