Ханна Фрай - Hello World. Как быть человеком в эпоху машин

Неприятности начались, когда внутри встроенных в фюзеляж датчиков скорости образовались кристаллики льда. Оставшись без адекватных показаний, автопилот подал звуковой сигнал и переложил ответственность на человека. Само по себе еще не повод для волнений. Но когда воздушное судно слегка тряхнуло в зоне турбулентности, Бонэн, не имея должной подготовки, отреагировал слишком резко. Лайнер начал немного крениться на правый борт, Бонэн схватился за боковую ручку управления и наклонил ее влево. А главное, он одновременно потянул сайдстик назад и тем самым послал самолет круто вверх [258].

Воздушное судно попало в более разреженную атмосферу, а Бонэн упорно тянул ручку на себя, пока нос самолета не оказался задран настолько, что воздух перестал равномерно обтекать крылья. Теперь они отражали воздушный поток, авиалайнер резко потерял подъемную силу и падал хвостом вниз с небес в океан.

В кабине пилотов раздались сигналы тревоги. Командир поспешил из каюты для отдыха обратно в кабину. Борт AF447 несся к океану со скоростью три километра в минуту.

К тому моменту датчики оттаяли, механических повреждений не было, океан маячил еще далеко внизу, и все еще можно было исправить. Бонэну и его напарнику хватило бы всего десяти-пятнадцати секунд, чтобы спасти всех, кто находился в самолете, — достаточно было толкнуть ручку управления вперед и опустить нос лайнера, так чтобы воздушный поток снова начал плавно и равномерно огибать крылья [259].

Но Бонэн в панике тянул сайдстик назад. Никто не осознавал, что он сам создал чрезвычайную ситуацию. Драгоценные секунды таяли. Командир велел выровнять крылья. Экипаж немного поспорил, теряют они высоту или набирают. Затем, на высоте меньше 2500 метров, управление взял на себя второй пилот [260].

— Вверх… вверх… вверх… — раздавался крик второго пилота.

— Я же все это время тянул ручку назад! — отвечал Бонэн.

Наконец до командира дошло. Он понял, что уже три с лишним минуты они падают из-за срыва потока, и приказал опустить нос. Поздно. Увы, теперь они были уже слишком близко к поверхности воды. “Чтоб его! Мы разобьемся! Не может быть!” — орал Бонэн [261]. Спустя несколько мгновений авиалайнер рухнул в Атлантический океан, унося с собой 228 живых душ. Парадоксы автоматизации

В 1983 году, за двадцать шесть лет до катастрофы с французским авиалайнером, психолог Лизанна Бейнбридж написала свое знаменитое эссе о неявной опасности чрезмерного доверия к автоматизированным системам [262]. Создайте машину, чтобы она исправляла людские огрехи, объясняла Бейнбридж, и, как ни парадоксально, люди станут слабее.

Любой из нас в той или иной степени может сейчас это подтвердить. Ведь именно поэтому люди уже не способны запоминать телефонные номера, многие из нас с трудом разбирают собственный почерк и не в силах найти дорогу без навигатора. У нас мало шансов приобрести навыки такого рода, потому что все это делает за нас техника.

У нас есть все основания волноваться, как бы нечто подобное не произошло и с навыками вождения — а тут ставки побольше, чем с каким-то почерком. Пока мы не сумеем наладить полностью беспилотный режим, автомобиль время от времени будет передавать управление водителю. Удастся ли нам сразу вспомнить, что мы должны делать? И будет ли у подрастающего поколения возможность вообще научиться водить машину?

Но даже если все водители сохранят (в широком смысле слова) свой уровень компетенции [263], нам все равно придется решить еще одну проблему. Ибо важно и то, что требуется от водителя до самоустранения автопилота. Возможностей всего две. Обе они, как пишет Бейнбридж, не особенно приятные.

При втором уровне автономности (управление “без рук”) предполагается, что водитель всегда будет предельно внимателен на дороге. Машина не настолько продвинутая, чтобы полагаться только на себя, ей требуется ваше чуткое руководство. Как однажды написал журнал Wired , это примерно та степень развития, когда “двухлетний ребенок помогает вам мыть посуду” [264] [265].

В настоящее время приблизительно такого уровня достигли автопилоты Tesla [266]. Сейчас это выглядит как навороченный круиз-контроль — система автоматического поддержания скорости ведет машину на трассе, может затормозить и прибавить газу, но рассчитывает на то, что водитель всегда начеку и в любой момент сможет вмешаться. Если вы надолго отпустите руль, включится сигнал тревоги, чтобы вы не теряли бдительности.