Ханна Фрай - Hello World. Как быть человеком в эпоху машин

Подводим баланс

Факты удручающие, но это не повод опускать руки. Некоторые алгоритмы работают достаточно хорошо, чтобы их можно было использовать для определенных целей. Так, в канадской провинции Онтарио люди с игровой зависимостью добровольно записываются в черные списки казино. Если кому-то из них не хватит силы воли, алгоритм распознавания отметит лицо этого человека, и сотрудники казино вежливо попросят его удалиться [359]. Конечно, это несправедливо по отношению к тем, кому ни за что испортили вечер, хотя они просто хотели развлечься, но я убеждена в оправданности такой жертвы, если это помогает завязавшим игроманам бороться со старыми пороками.

Так и в розничной торговле. Офисы охраны в магазинах всегда были увешаны фотокарточками воришек — теперь, едва вы войдете в дверь, алгоритм сверит вашу личность с базой данных магазинных воров. Если ваше лицо совпадает с лицом уже засветившегося злоумышленника, дежурные сотрудники охраны получат на смартфоны сообщение и смогут выследить вас в проходах торгового зала.

У магазинов есть резон заинтересоваться такой технологией. Только в торговых заведениях Великобритании ежегодно совершается примерно 3,6 миллиона правонарушений, что наносит ретейлерам немалый ущерб — 660 миллионов фунтов [360]. А если принять во внимание, что в 2016 году в американских магазинах из-за насильственных действий погиб 91 подозреваемый в воровстве [361], то, пожалуй, для всеобщего блага лучше вовсе не пустить рецидивиста в магазин, прежде чем дело примет серьезный оборот.

Однако высокотехнологичные методы борьбы с магазинными ворами имеют свои недостатки, например, связанные с нарушением неприкосновенности частной жизни. Компания FaceFirst , один из главных поставщиков программного обеспечения для систем безопасности, утверждает, что не хранит фотографии постоянных покупателей, но, безусловно, магазины пользуются системой распознавания лиц для отслеживания наших трат. В связи с этим возникает вопрос, кто рискует попасть в черный список компьютера. Кто сказал, что в черный список всех заносят обоснованно? И как же презумпция невиновности, не пойман — не вор? Что станется с теми, чьи фамилии оказались в черном списке случайно, — как им избавиться от клейма? Опять же всегда есть шанс, что алгоритм, для которого стопроцентная точность просто недостижима, ошибется при опознании.

Вопрос в том, что перевешивает — плюсы или минусы. Простого ответа нет. Даже ретейлеры не могут прийти к единому мнению. Одни с энтузиазмом хватаются за новые технологии, другие стараются держаться от них подальше, и в числе последних сеть Walmart , чьи надежды на прибыль от инвестиций не оправдались, поэтому компания прекратила эксперимент FaceFirst в своих магазинах [362].

Но в сфере борьбы с преступностью, по-видимому, гораздо легче найти баланс пользы и вреда. В самом деле, далеко не только алгоритмы распознавания лиц стоят на шатком статистическом фундаменте. Никто не знает, какова вероятность ошибки в экспертизе отпечатков пальцев [363], следов укуса, разлета брызг крови [364]или в баллистической экспертизе [365]. По сообщениям Национальной академии наук США 2009 года, ни один из применяемых в криминалистике методов, кроме анализа ДНК, “не доказывает связи между уликами и данным человеком или источником” [366]. Тем не менее нельзя отрицать, что все эти методы подтвердили свою практическую ценность и важность для полицейского расследования — при условии, что полиция не придает полученным с их помощью доказательствам излишний вес. Пожалуй, если есть хоть малейший риск повторения дела Стива Талли, нельзя пользоваться несовершенной технологией, которая увеличит вероятность лишения человека свободы. Но все-таки подобные истории погоды не делают. Потому что при всех колоссальных минусах ловли преступников с помощью методов распознавания лиц у этих технологий есть еще и большие жирные плюсы. Трудный выбор

В мае 2015 года по Манхэттену бегал человек с молотком и нападал на случайных прохожих. Сперва он подбежал к группе людей рядом с Эмпайр-стейт-билдинг и размозжил затылок двадцатилетнему парню. Спустя шесть часов он направился на Юнион-сквер и тем же молотком ударил в висок мирно сидевшую на скамейке женщину. Всего через несколько минут он объявился вновь — на этот раз его жертвой стала женщина тридцати трех лет, которая шла по улице вдоль парка [367]. Алгоритм распознавания лиц сумел идентифицировать его личность по видеозаписи с камеры наблюдения — это был Дэвид Бэрил, и за несколько месяцев до своей акции он выложил в Instagram фото забрызганного кровью молотка [368]. Его признали виновным в нападениях и приговорили к двадцати двум годам тюремного — заключения.