Cет Cтивенс-Давидовиц - Все лгут. Поисковики, Big Data и Интернет знают о вас всё

У авторов нет объяснения, почему благодарность в обращении свидетельствует о повышении вероятности невозврата кредита.

В целом, по данным этих исследователей, предоставление детального плана платежей с указанием выполненных в прошлом обязательств вовсе не свидетельствует о том, что данный заемщик погасит данный кредит. Давать обещания и взывать к милосердию – это явный признак того, что человек не будет возвращать долг. Независимо от причин (или от того, что говорит нам о человеческой природе это стремление давать обещания, которые в действительности никто не собирается выполнять) ученые обнаружили, что этот тест дает чрезвычайно ценную информацию для прогнозирования невозврата кредита. Люди, упоминающие бога, в 2,2 раза чаще не отдают долги – и это один из самых высоких показателей невозврата.

Но авторы также считают, что их работа поднимает этические вопросы. Хотя это было просто академическим исследованием, некоторые компании заявляют, что используют подобные интернет-данные при одобрении кредитов. Допустимо ли это?

Хотим ли мы жить в мире, где с помощью слов, которые мы пишем, можно предсказать, будем ли мы погашать кредит? Это как минимум жутковато – и порой просто страшно.

В ближайшем будущем потребителю, желающему получить кредит, возможно, придется обеспокоиться не только своей финансовой историей, но и своей активностью в интернете. И результат может зависеть от факторов, кажущихся абсурдными – например, используется ли в постах слово «спасибо» или упоминается ли бог. Далее. Что сказать о женщине, которая должна помочь своей сестре, оказавшейся в больнице, и которая, безусловно, оплатит кредит? Кажется ужасным отказать ей только на том основании, что в среднем люди, взывающие о помощи на медицинские расходы, часто врут. Мир, функционирующий таким образом, начинает выглядеть мерзко.

Это этический вопрос: есть ли у корпораций право судить о нашей пригодности получать их услуги, основываясь на абстрактных, но статистически прогностических критериях, не связанных непосредственно с этими услугами?

Оставим мир финансов. Давайте посмотрим на случаи, имеющие более серьезные последствия – например при найме на работу. Работодатели при оценке кандидатов все чаще просматривают соцсети. Нет никаких проблем, если они ищут доказательства обливания грязью предыдущих работодателей или раскрытия конфиденциальных сведений с прошлого места работы. Можно даже найти некоторое оправдание отказу нанять кого-то, чьи записи в Facebook или в Instagram свидетельствуют о чрезмерном употреблении алкоголя. Но что если HR-специалисты находят совершенно безобидный показатель, соотносящийся с чем-то, что их беспокоит?

Исследователи из Кембриджского университета и Microsoft дали 58 тысячам американских пользователей Facebook различные тесты, касающиеся их личности и интеллекта. И обнаружили, что лайки на Facebook часто коррелируют с IQ {183}, экстравертностью и добросовестностью. Например, люди, признающиеся в любви к Моцарту, грозам и картошке в виде спиралек, как правило, имеют более высокий IQ. А те, кто любит мотоциклы «Харлей-Дэвидсон», кантри-группу «Lady antebellum» или страницу «Мне нравится быть мамой», как правило, имеют более низкий показатель интеллекта. Некоторые из этих корреляций могут быть связаны с «проклятием размерности». Если вы протестируете достаточно много параметров, некоторые из них будут случайным образом коррелировать. Но часть интересов могут коррелировать с IQ вполне законно.

Тем не менее кажется несправедливым, что умный человек, которому – такое случается – нравятся «Харлеи», может не получить соответствующую его квалификации работу только потому, что он, сам того не понимая, сигнализировал о низком IQ.

Справедливости ради следует сказать, что эта проблема не нова. О людях уже давно судят по факторам, не связанным напрямую с производительностью – по твердости рукопожатия или по чистоте одежды. Но опасность информационной революции заключается в том, что по мере все большего оцифровывания нашей жизни эти приблизительные суждения могут становиться все более запутанными – и при этом все более навязчивыми. Улучшение прогнозирования может привести ко все более и более отвратительной дискриминации.

Более точные данные могут привести к другой форме сегрегации, которую экономисты называют «ценовой дискриминацией». Предприятия часто пытаются выяснить, какую плату они должны взимать за товары или услуги. В идеале они хотят брать с клиентов максимум того, что те готовы платить – таким образом будет извлекаться максимально возможная прибыль.