Дэвид Минделл - Восстание машин отменяется! Мифы о роботизации

Летчик может в одном полете непосредственно управлять воздушным судном, в другом – управлять им же дистанционно, а в третьем – выполнять полет в автономном режиме. Более того, возможна ситуация, когда человек то разрешает роботу ALIAS управлять самолетом, то спустя час берет управление на себя. Системы наподобие ALIAS будут даже позволять пилоту отдыхать и спать во время длительных полетов, если только получится доказать, что машина способна управлять самолетом в аварийной ситуации достаточно долго, чтобы успеть разбудить командира, проинформировать его или ее о сложившейся ситуации и дать возможность вмешаться в процесс управления, если это окажется необходимым. Сон – проверенный способ снижения усталости пилотов и повышения эффективности их работы, но прежде, чем мы позволим пилоту спать во время полета, придется расстаться с привычным нам представлением о летчике как о герое, который всегда начеку и готов парировать любую опасную ситуацию, и согласиться с тем, что, несмотря на способности этого человека, у него есть свои физиологические и когнитивные ограничения.

ALIAS – проект с высоким уровнем риска и малой определенностью, как и все интересующие Агентство по перспективным оборонным научно-исследовательским разработкам программы. И пока нет ясности в том, когда (и как) он может быть реализован на практике. Но, существуя в качестве программы исследований, некоего сложного мысленного эксперимента, он наглядно подчеркивает идею, в истинности которой мы убеждались десятилетиями: нет постепенного линейного перехода от управляемых людьми аппаратов к дистанционно управляемым, а от них – к автономным. Вместо этого мы наблюдаем процесс слияния. Ручной режим управления, дистанционный и автономный развиваются совместно, и грани между ними постепенно стираются.

Летом 2013 года Международная ассоциация беспилотных транспортных средств (AUVSI) проводила свое ежегодное собрание и торговую выставку в Вашингтоне, округ Колумбия. Там можно было увидеть движущихся роботов, которые бегают рысью как вьючные мулы, летают как стрекозы, стреляют ракетами и осматривают урожаи. Но, на удивление, самой большой новостью на этом собрании были не новые сенсоры, аппараты или гражданские приложения, хотя все они там присутствовали. Самой большой новостью было требование президента ассоциации к прессе и общественности изменить терминологию дебатов.

«Я не использую слово "дрон", – сказал президент AUVSI Майкл Тоскано. – В этом слове заложены определенные домыслы относительно сущности дронов, связанные с Голливудом. Большинство из них сделано в военных целях, большинство пугающи и враждебны». Тоскано отвечал на непосредственную политическую угрозу: за пределами зала собраний протестующие выступали против американских ударов с помощью дронов и перспективы вторжения дронов в частную жизнь американцев на их собственной земле.

«Ключевым здесь является слово "система". Мы надеемся, что это слово общественность поймет, – заявил Тоскано. – Существует человеческое существо в системе. Человеческое существо – это то, что создает систему. Когда вы произносите слово "дрон", вы не думаете, что есть человек, который им управляет».

Тоскано явно попытался улучшить общественный имидж своей отрасли, представители которой обеспокоены тем, что боязнь людей оказаться под наблюдением может помешать развитию технологий в воздушном пространстве Соединенных Штатов. Но это необычное требование использовать для наименования продукции другое слово только подчеркнуло значимость вопроса – и путаницу в терминологии, используемой для обозначения мобильных роботов.

Дроны – не обезличенная техника, их существование обусловлено человеческой деятельностью. На борту беспилотных аппаратов нет людей, но они по-прежнему являются результатом человеческого труда. Автономные аппараты регулярно поддерживают сообщение с человеческим миром и возвращаются в него. Люди-операторы связаны с большим объемом данных, коллегами и визуальной информацией, даже когда оказываются вовлеченными в детали событий, происходящих на другом конце земного шара.

Главное заблуждение состоит в том, что прямое человеческое присутствие обеспечивает аутентичное, компетентное восприятие, тогда как роботы не управляются человеком и делают свою работу сами. Мы не будем вступать в споры об искусственном интеллекте и о том, способны машины думать или нет. Автономная система действительно может использовать недетерминированное (иначе говоря, непредсказуемое) программное обеспечение, или проявлять неожиданные свойства, формирующиеся под действием окружающей обстановки, или задействовать режим обучения. Тем не менее любые системы, считающиеся интеллектуальными, программируются людьми, которые запечатлевают в них свое видение мира.