Ханна Фрай - Hello World. Как быть человеком в эпоху машин

В этом смысле задача локализации автомобиля без водителя очень напоминает ту, над которой бился Томас Байес, пресвитерианский священник и талантливый математик, чьим именем названа известная теорема. В середине XVIII века он придумал игру для иллюстрации к своей задаче и описал ее правила в эссе. Я расскажу вам, что это была за игра.

Вы сидите спиной к квадратному столу. Я бросаю на стол красный шарик, так чтобы вы его не видели. Вы должны угадать, где он остановился. Это непросто: без исходной информации вы не можете даже предположить, где он мог бы быть.

Поэтому я вам помогаю — бросаю на тот же стол второй шарик другого цвета. Ваша задача та же — определить, где находится первый, красный, шарик, но на этот раз я подскажу вам, как расположен второй шарик относительно первого, то есть перед красным, сзади него, левее или правее. И вы можете скорректировать свои предположения.

Повторяем тот же ход. Я бросаю третий шарик, четвертый, пятый и каждый раз говорю вам, где они остановились относительно первого, красного, шарика — положение которого вы пытаетесь угадать.

Чем больше шариков я брошу и чем больше информации вам сообщу, тем отчетливее вы должны видеть мысленным взором красный шарик на столе. Вы не можете точно знать, где он находится, но будете уточнять свои предположения до тех пор, пока не сможете дать уверенный ответ.

В каком-то смысле автомобиль-беспилотник с его точными координатами ничем не отличается от нашего красного шарика. Вместо повернувшегося спиной к столу человека — алгоритм, который пытается угадать, где в данный момент находится автомобиль, а вместо вспомогательных шариков — источники данных, то есть GPS, инерциальные датчики и так далее. Ни один из этих источников не даст алгоритму исчерпывающей информации о положении машины, но каждый внесет свою лепту, чтобы алгоритм уточнил предполагаемый ответ. Такой метод логического заключения о координатах объекта на основании имеющихся данных — и байесовского подхода — называется вероятностным выводом. В грамотно скомпонованном виде получим еще один алгоритм машинного обучения.

К началу третьего тысячелетия, накопив достаточно опыта работы с крылатыми ракетами, космическими кораблями и самолетами, инженеры уже понимали, с какой стороны взяться за решение задачи локализации. Они по-прежнему не могли ответить робомобилю на вопрос “где я?”, но байесовский подход, по крайней мере, давал надежду.

Благодаря Байесу с 2004 года, когда первые гонки Grand Challenge оставили после себя кладбище роботов, до впечатляющей победы высоких технологий в 2005 году, когда пять разных машин сумели проехать более ста миль без участия людей, произошло множество важнейших качественных скачков. Другие насущные задачи — объяснить машине, что вокруг нее и что ей следует делать, — тоже помогли решить алгоритмы, которые работали по теории Байеса [247].

Так должна ли ваша машина сбить пешехода, чтобы спасти вас?

Давайте ненадолго остановимся на обсуждении второго вопроса. Ибо осенью 2016 года, на Парижском автосалоне, в укромном уголке переполненного посетителями выставочного зала, пресс-секретарь Mercedes-Benz сделал довольно-таки незаурядное заявление. Журналисты спросили директора по разработке систем помощи водителю и активной безопасности Кристофа фон Гуго, как беспилотный “мерседес” поведет себя при угрозе катастрофы. “Если вы видите, что хотя бы одного человека можно спасти, надо его спасать”, — ответил он.

Логично, подумаете вы. Тоже мне, открытие.

Только вот Гуго спрашивали не о дорожно-транспортных происшествиях вообще. Интервьюер хотел выяснить его отношение к хорошо известному мысленному эксперименту из шестидесятых годов, где рассматривался один особенный случай. Вопрос касался интересной дилеммы — выбора меньшего из двух зол. Это так называемая “проблема вагонетки” — в первоначальном условии задачи речь шла о неуправляемом рельсовом транспорте. Применительно к автономному автомобилю можно представить себе следующую ситуацию.

Предположим, прошло сколько-то лет, и вы, пассажир машины с автономным управлением, едете по городской улице в отличном настроении. Загорается красный сигнал светофора, однако из-за какой-то неполадки ваша машина не может затормозить. Столкновения не избежать, и перед автомобилем встает выбор — что делать? Резко свернуть в сторону бетонной стены и почти наверняка угробить тех, кто сидит внутри? Или спасать их жизни и ехать прямо, но задавить людей на пешеходном переходе? На какие действия должна быть запрограммирована машина? Как по-вашему, кто должен погибнуть?