Дэвид Минделл - Восстание машин отменяется! Мифы о роботизации

Приведу пример. Так называемое техническое зрение продолжает общее направление формирования структуры восприятия пилотов с помощью созданных компьютером образов поверхности и аэропорта. Когда полет проходит ночью или сквозь облачность, техническое зрение показывает виртуальный пейзаж, а также вектор направления полета. У летательных аппаратов меньшего размера без индикаторов на лобовом стекле (в том числе у моего собственного самолета «Бич Бонанза») в кабине с экранной индикацией созданная синтетическая картина местности служит фоном для изображения приборов. Но с ИЛС вектор направления пути накладывается на созданную компьютером поверхность, позволяя пилоту «наложить одну картинку на другую», то есть поместить вектор на изображение взлетно-посадочной полосы и лететь по нему. Вы приземлитесь там, куда вам укажет вектор.

Техническое зрение также может включать в себя такие количественные признаки, как показания компаса и предупреждения о препятствиях, и обеспечивать информацию о воздушном движении. Пилотам нравится техническое зрение, потому что оно позволяет им вернуться к визуальным полетам в любую погоду. «Их учили летать по визуальным ориентирам, – замечает инженер HudView Боб, – и теперь они возвращаются к этому – „просто наложи один символ на другой, и все готово“». В виртуальном мире всегда стоит хорошая погода.

Тем не менее техническое зрение выдвигает на передний план опасения, связанные с информационной автоматизацией. Действительно, оно в большей степени помещает пилотов в контур управления и позволяет им напрямую управлять своим летательным аппаратом. И действительно, можно легко не обращать на него внимания или увеличить его роль, если пилот склонен к этому. Но информационная автоматизация по-прежнему очень сильно зависит от программного обеспечения, созданного людьми, являющегося результатом человеческих процессов и подверженного тем же явлениям, которые влияют на всю нашу деятельность.

Техническое зрение очень зависит от своих баз данных, поставляющих цифры для моделирования поверхности, и это вызывает ряд вопросов. Насколько точной является модель? Насколько она соответствует реальной обстановке? База данных моделирует мир в какой-либо момент в прошлом, и в ней может не быть информации о ремонте сооружений аэропорта, о башенных кранах неподалеку от него и даже о поломках оборудования. Более того, на дисплее технического зрения отображен только сглаженный, идеальный «платонов» мир и не учтены беспорядочные вкрапления вроде оленей или грузовиков, блокирующих взлетно-посадочную полосу. Когда техническое зрение накладывается на индикатор на лобовом стекле, сглаженные контуры виртуальной земли могут выглядеть как неясные, отвлекающие внимание облака, наложенные на реальную обстановку. Несмотря на это, наглядное графическое изображение может вызвать у пилота зависимость от этих данных и излишнее доверие к ним.

Помня обо всех этих оговорках, мы можем поразмыслить о будущем. Будем ли мы и должны ли летать на полностью непилотируемых авиалайнерах? Существующие сегодня технологии могут вывести самолет по «рулежке» на взлетно-посадочную полосу, совершить взлет, лететь в нужном направлении и приземлиться без участия пилота-человека. Но такие технологии применяются только на аппаратах, где вообще нет людей, где авария не равна потере человеческой жизни. А если поместить на борт сто или больше человек, отсутствие пилота вызовет у нас чувство дискомфорта.

Способны ли инженеры действительно учесть все возможные непредвиденные обстоятельства или аварии, которые могут произойти, и включить их в программное обеспечение? Вероятно, нет, но что, если летательный аппарат и его программное обеспечение смогут «обучаться» – получать опыт на основании любой возникающей аномальной ситуации (в том числе и при отказе автоматики) во время не только собственных полетов, но и полетов всего воздушного флота и учитывать эти уроки при принятии решений? В эпоху быстрых компьютеров и дешевых запоминающих устройств каждый летательный аппарат может располагать базой данных о полетах на нем, на всех воздушных судах этого типа, всей авиакомпании, аэропорта и т. д.

Исследователи (и авиакомпании) много работают над извлечением информации из таких больших массивов данных. Подобные статистические методы эффективны для выявления возможных мошеннических операций с кредитной картой компании или для добавления на экраны рекламы при вашем следующем посещении какого-либо сайта. Но могут ли такие предсказания быть достаточно верными и точными каждый раз из десяти миллионов, чтобы мы доверили им наши жизни, как доверяем их этим аккуратным и подтянутым профессионалам, которые приветствуют нас на борту авиалайнера, но способны на ошибки и, возможно, устали? Если предсказания действительно могут быть точными, как мы об этом узнаем? Мы только начинаем понимать, как удостовериться в безопасности таких алгоритмов.