Ханна Фрай - Hello World. Как быть человеком в эпоху машин

Загвоздка в том, что камера не позволяет оценить масштаб и расстояние. Кинорежиссеры иногда этим пользуются — вспомните, как в начале “Звездных войн” из чернильной тьмы космоса вырисовывается звездный разрушитель и грозно зависает вверху кадра. Огромное жуткое чудовище, хотя на самом деле снимали модель длиной не более трех метров. Этот фокус отлично удается на большом экране. Но две тонкие параллельные линии могут означать как уходящее за горизонт шоссе, так и ствол стоящего поблизости дерева, и для автомобиля-беспилотника правильная оценка расстояния — это вопрос жизни и смерти.

Как выяснил еще в 1990-е годы Дин Померло, научный сотрудник Университета Карнеги-Меллона, даже если поставить больше камер и скомбинировать картинки так, чтобы получилось объемное изображение, чрезмерное доверие к нейросетям может привести к другой проблеме. Он работал с машиной, которой дали имя “Элвинн” [239]и которую учили интерпретировать обстановку по действиям водителя-человека. Сидя за рулем, Померло и его коллеги долго гоняли автомобиль по дорогам, попутно фиксируя все свои манипуляции. По созданной таким образом базе данных нейросети должны были научиться ездить там и только там, где едет человек.

Эксперимент начался великолепно. После тренировок “Элвинн” уверенно и вполне самостоятельно катил по несложной трассе. Но на пути оказался мост, и тут машина не справилась. “Элвинн” вдруг опасно вильнул, и Померло вынужден был вцепиться в руль, дабы избежать катастрофы.

Померло несколько недель анализировал ход эксперимента и в конце концов понял, в чем дело: “Элвинн” учился ездить на дорогах с обочинами, поросшими травой. Подобно нейросетям из главы “Медицина”, опознававшим волка по наличию снега на фотографиях, нейросеть автомобиля выбирала путь, ориентируясь по траве. Как только трава кончилась, машина растерялась.

Лазер, в отличие от видеокамеры, способен измерить расстояние. Машина, оснащенная системой, которая называется лидар [240](впервые ее использовали во время второй гонки DARPA в 2005 году), выпускает с помощью лазера фотон, замеряет время его пути до препятствия и возвращения обратно после отскока и в итоге получает адекватную оценку расстояния до этого самого препятствия. Но в бочке меда есть ложечка дегтя — лидар ничего не сообщит вам о качестве поверхности и цвете, не прочтет дорожные знаки и не справится на больших расстояниях. Радар — примерно то же самое, но с использованием радиоволн, — в свою очередь, отлично работает при любой погоде, способен идентифицировать очень удаленное препятствие и даже видеть сквозь некоторые материалы, но про форму и строение объекта у него не спрашивайте.

Ни видеокамера, ни лидар, ни радар — ни один из этих источников информации по отдельности не даст полной информации о том, что окружает транспортное средство. Чтобы создать надежный беспилотный автомобиль, надо как-то заставить их работать вместе. Задача относительно простая при условии, что они описывают обстановку примерно одинаково, но в противном случае придется помучиться.

Представьте себе, что вашему робомобилю тоже встретилось перекати-поле, как той машине на первых состязаниях в пустыне. Лидар докладывает о препятствии впереди. Видеокамера согласна. Радар легко проникает сквозь неплотное растение, поэтому он считает, что волноваться не о чем. Какому детекторному устройству должен довериться алгоритм?

Что, если оставить решающий голос за камерой? Допустим, в пасмурный день вам наперерез едет большой белый грузовик. Лидар с радаром единодушно посоветуют затормозить, но камера на фоне белесого тумана может и вовсе не увидеть угрозы.

Если это вас не пугает, есть другая проблема. Вы должны учесть не только возможность неверной интерпретации окружающей обстановки, но и вероятность ошибки приборов в определении расстояний и размеров объектов.

Вероятно, вы замечали голубой кружок на картах Google в районе вашего местонахождения — он указывает на возможную погрешность GPS. Кружок может быть маленький — то есть ваше местонахождение определено точно, а иногда он охватывает достаточно большую площадь, и центр окружности вовсе не там, где надо. Чаще всего вам это не важно. Мы-то знаем, где находимся, и ложную информацию проигнорируем. Но автомобиль без водителя сам не видит, где он есть на самом деле. Когда он едет по единственной полосе движения шириной не более четырех метров, одного только навигатора недостаточно для того, чтобы удовлетворительно определить его положение на местности.