Ханна Фрай - Hello World. Как быть человеком в эпоху машин

При этом потенциальный вред кроется не только в прогнозах. Как мы уже не раз видели на других примерах, существует реальная опасность того, что под влиянием авторитета алгоритма некорректные результаты приобретут дополнительную весомость. А это может привести к самым неприятным последствиям. Слово компьютера — еще не истина в последней инстанции.

Кто ты, по-твоему?

Дело было в Южном Денвере, в 2014 году. Стив Талли мирно спал у себя дома, и вдруг раздался стук в дверь [330]. Стив открыл и увидел на пороге мужчину, который извинился за то, что случайно задел его машину. Незнакомец попросил Талли взглянуть на повреждения. Талли вышел. Но когда он присел на корточки, чтобы осмотреть переднюю дверь [331], взорвалась светозвуковая граната. Трое невесть откуда взявшихся парней в черных жилетах и шлемах повалили его на землю. Один из них наступил ему на лицо. Другой держал его за руки, а третий принялся избивать его прикладом винтовки.

Талли получил тяжелейшие травмы. Вечер закончился для него сильнейшим нервным потрясением, гематомами и переломом полового члена [332]. “Я и понятия не имел, что можно сломать пенис, — сказал он позднее корреспонденту интернет-издания The Intercept . — В какой-то момент я закричал, стал звать на помощь полицию. Потом понял, что копы уже здесь, они-то меня и лупят” [333].

Стива Талли арестовали по обвинению в ограблении двух местных банков. Во время второго ограбления пострадал полицейский — видимо, поэтому, полагает Талли, его задержание прошло так жестко. “Я сказал им, вы рехнулись! — вспоминает он, как орал на полицейских. — Вы взяли не того!”

Талли был прав. Его арест стал результатом поразительного сходства с человеком, которого искали на самом деле, — с настоящим преступником.

Сообщил полиции о Талли монтер, который увидел фотографии в местных новостях по телевизору, а потом выполнял какие-то работы в его доме, но в конечном счете с программой распознавания лиц работал специалист ФБР — это он изучил видеозапись, сделанную камерой наблюдения [334], и пришел к выводу, что “по-видимому, попавший в кадр подозрительный человек — Талли” [335].

У Талли было железное алиби, но из-за свидетельских показаний сотрудников ФБР на то, чтобы полностью восстановить его доброе имя, ушел год. При этом почти на два месяца, пока не появилось достаточно доказательств для его освобождения, его заперли в камере с самыми суровыми условиями. Он потерял трудоспособность, а к тому времени, когда его мучения закончились, — еще и работу, дом и возможность видеться с детьми. И все это — результат ошибочной идентификации личности. Двойное видение

В наши дни работу полиции невозможно представить без алгоритмов распознавания лиц. Имея фотографии, видеосъемку и снимки, сделанные стереоскопическими камерами, эти алгоритмы найдут нужное лицо, измерят его характерные параметры, сравнят их с базами данных об уже известных лицах и таким образом определят личность человека на изображении.

В Берлине алгоритмы распознавания лиц, способные определить в толпе находящегося в розыске предполагаемого террориста, натаскивали на видеосъемке многолюдных вокзалов [336]. В США, в одном только штате Нью-Йорк, с 2010 года при содействии таких алгоритмов лишь за мошенничество и хищение персональных данных было арестовано четыре тысячи человек [337]. А курсирующие по английским дорогам фургоны, оснащенные камерами и похожие на модернизированные автомобили службы Google StreetView , автоматически сверяют ваше лицо с лицами из списка находящихся в розыске [338]. В июне 2017 года, в Южном Уэльсе одна из таких машин проехала мимо человека, на арест которого у местной полиции уже был ордер, и новая технология впервые успешно показала себя в деле [339].

Нередко от того, сумеем ли мы идентифицировать и опознать лицо, зависит наша безопасность. Но было бы рискованно полностью доверить решение этой задачи людям. Взять, к примеру, паспортный контроль. Как показало одно недавнее исследование с имитацией работы службы безопасности в аэропорту, профессионалы вроде бы с наметанным глазом в 14 % случаев — а это очень много — пропустили людей с фальшивыми документами, зато 6 % абсолютно законных паспортов не приняли по ошибке [340]. Не знаю, как на ваш взгляд, а по-моему, если подумать, сколько народу ежедневно пропускает аэропорт “Хитроу”, это не просто мелкое недоразумение.

Как мы еще увидим, алгоритмы распознавания лиц справляются со своей работой куда лучше людей. Но если они применяются в уголовном розыске, где ошибки могут привести к катастрофическим последствиям, перед нами встают очень серьезные вопросы. Для начала, легко ли перепутать одного человека с другим? И у многих ли где-то есть такие же опасные двойники, как у Стива Талли?