Ханна Фрай - Hello World. Как быть человеком в эпоху машин

Вообще-то мы не знаем, в какой степени все это повлияло на выборы президента США. Даже если бы мы располагали информацией в полном объеме, невозможно вернуться в те дни и разобраться в сложнейших причинно-следственных связях, чтобы понять, почему тот или иной человек принял то или иное решение. Что было, то прошло. Для нас важно наше будущее. Оцените меня

Не забывайте, что интернет в его нынешнем виде приносит пользу нам всем. Любой человек в любой точке мира легко и беспрепятственно, в режиме реального времени подключается к мировым коммуникационным сетям, в его распоряжении богатейший запас накопленных человечеством знаний, он узнает самые свежие новости обо всем, что происходит в разных уголках нашей планеты, и пользуется последними достижениями техники и новейшим программным обеспечением, разработанным частными компаниями и оплаченным за счет рекламы. Мы согласились на условия договора. Бесплатные технологии в обмен на персональные данные и возможность с их помощью влиять на наше мнение и зарабатывать на нас. Плюсы и минусы капитализма в одной бартерной сделке.

Казалось бы, мы должны быть довольны обменом. Вроде ни к чему не придерешься. Но если и так, самое главное — помнить о сопряженных со сбором данных опасностях. Надо понимать, какие риски таят в себе базы данных, даже если не брать в расчет проблемы приватности и потенциальной угрозы демократии — как будто уже одного этого мало. В этой антиутопии есть еще один острый момент. Один из вариантов применения обширных баз данных со множественными перекрестными ссылками показан в популярном сериале “Черное зеркало” на канале Netflix , однако в жизни он тоже реализован. Это система рейтинговой оценки граждан, известная под названием Sesam Credit и взятая на вооружение китайскими властями.

Представьте себе, что вся информация о вас, собранная по крупицам брокерами данных, сконцентрирована в обобщенном рейтинговом показателе. Учтено буквально все. Не только обычные сведения о вас — ваша кредитная история, номер мобильного телефона, адрес, — но и подробности повседневной жизни. Ваши публикации в соцсетях, данные из приложения поиска попутчиков, даже “выписка” с сайта знакомств. На основании досье выводится единый численный показатель от 350 до 950.

Sesame Credit не раскрывает детали расчета “суммарной” оценки, но технический директор компании Ли Инъюнь в интервью изданию пекинской медиагруппы Caixin Media рассказал, о чем, в частности, можно узнать из этих рейтингов: “Например, если кто-то по десять часов в день играет на компьютере, то, скорее всего, этот человек — бездельник. Часто покупают детские подгузники, скорее всего, родители маленьких детей, а они, должно быть, люди ответственные” [77].

Если вы китаец, то ваш рейтинг — отнюдь не пустой звук. Если вы удостоились более чем 600 баллов, сможете получить специальную кредитную карту. Заслужили больше 666 — в награду вам повысят лимит кредитования. С рейтингом выше 650 баллов можно взять в аренду автомобиль без залога и воспользоваться услугами VIP-зала в пекинском аэропорту. С оценкой выше 750 баллов смело рассчитывайте на ускоренное оформление визы в Европу [78].

При условии добровольного участия в программе все очень весело и увлекательно. Но к концу 2020 года рейтингование граждан станет всеобщим и обязательным, что отразится буквально на всех сторонах жизни обладателей низких оценок. В государственном документе об этой системе приведены примеры наказаний, которые может понести гражданин, признанный неблагонадежным: “Запрет на выезд за границу, ограничения при покупке… недвижимости, авиабилетов и туров, при бронировании номеров в отелях, имеющих категорию звездности-”. Предупреждается также, что в случае “действий, серьезно подрывающих доверие… коммерческим банкам рекомендуется ограничить предоставление кредитов, услуг страхования и предложение прочих банковских услуг таким гражданам” [79]. Законопослушание одобряется и поощряется. Утрата доверия влечет за собой санкции. Как говорит Рогир Кремерс, ученый из Института Ван Волленховена Лейденского университета, специалист по китайскому праву и госуправлению, “самое подходящее сравнение для этой системы — нежеланное дитя программы — лояльности” [80].

Не знаю, что хорошего можно сказать о Sesame Credit , но я бы не хотела, чтобы вы жили с ощущением неминуемого конца света. Всегда есть проблески надежды. Каким бы мрачным ни представлялось вам ближайшее будущее, судя по отдельным признакам, ситуация постепенно меняется. Многие аналитики данных и раньше отлично знали об эксплуатации сведений о личной жизни людей и выступали против их использования в корыстных целях. Но до шумихи с Cambridge Analytica эти вопросы не привлекали к себе столь пристального внимания мировой общественности. В начале 2018 года, когда вспыхнул скандал, люди впервые отчетливо увидели, как алгоритмы исподтишка собирают их персональные данные, и признали, что без контроля и регулирования последствия могут быть тяжелыми.