Джарон Ланир - 10 аргументов удалить все свои аккаунты в социальных сетях [litres]

Дело отчасти в том, что если бы все узнали, как работают искусственный интеллект и облачные приложения, это вызвало бы волнения. Люди поняли бы, насколько непостоянными могут быть результаты. (Об этом я рассказывал в первой главе.) Алгоритмы полезны лишь функционально, статистически, а ведь на этой тончайшей ниточке полезности висят самые огромные состояния нашего времени.

Но как по мне, так дело не только в программах, даже самых чудесных, а в иерархических отношениях, которые возникают, когда люди начинают уважать эти программы.

Источники мнений о вас, значение которых было раздуто людьми – прямо скажем, до смешного, – существовали всегда, но они практически не имели никакого веса. Например, гороскопы в газетах. Редакторы не могли отследить движения ваших глаз, а потому никто не знал, что вы именно читаете. Но даже если вы читаете свой гороскоп (прошу прощения, если вы в них верите, но это нелепо), то и что с того?

Может, вы верите в астрологию, а может, ваш взгляд зацепился за случайное слово, а может, вы сочли гороскоп забавной шуткой. Да что угодно. Это оставалось между вами и неодушевленным предметом, максимум – между вами и человеком, которому вы об этом рассказали.

Гороскоп из газеты не менял реальность за пределами вашей головы. И уж точно не влиял на ваши взаимоотношения с другими людьми.

ОБЛОМ работает иначе. Предположим, что вместо газеты у нас онлайн-сервис, а вместо гороскопов – оценка вашей заботы о собственном здоровье, вашего трудолюбия, привлекательности в качестве романтического партнера или чего-нибудь еще. Facebook, например, классифицирует вас на основании ваших политических взглядов и многих других факторов [88] https://www.nytimes.com/2016/08/24/us/politics/facebook-ads-politics.html . Все эти категории – ответ ОБЛОМа на гороскопы.

Суждения алгоритмов ОБЛОМа ненадежны и ничего не значат в научном смысле, но в реальной жизни они еще как значимы. От них зависит, какие новости вы увидите, кому на вас укажут как на возможного романтического партнера, какие товары вам предложат купить. Суждения, основанные на активности в соцсетях, могут определять, какой кредит вам дадут в банке [89] https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2475265 , в какие страны вас впустят [90] https://www.reuters.com/article/us-usa-immigration-visa/trump-administration-approves-tougher-visa-vetting-including-social-media-checks-idUSKBN 18R 3F8 , будет ли у вас работа [91] https://www.forbes.com/sites/adp/2016/10/24/how-to-legally-use-social-media-to-recruit/#1fd4ebce29f4 , какое образование вам позволят получить [92] https://www.tuition.io/2014/04/social-media-shocker-twitter-facebook-can-cost-scholarship-admissions-offer/ , какой вердикт вынесут при обращении за выплатами по страховке вашего автомобиля [93] https://www.edmunds.com/auto-insurance/car-insurance-companies-use-facebook-for-claims-investigations.html , а также то, насколько свободно вы сможете собирать вокруг себя единомышленников [94] https://www.theguardian.com/technology/2016/oct/11/aclu-geofeedia-facebook-twitter-instagram-black-lives-matter . (Зачастую третьи лица применяют свои алгоритмы суждения к данным, добытым с помощью ОБЛОМа, а не полагаются на категории ОБЛОМ-платформ.)

Все ваши прихоти и чудачества рассматриваются под микроскопом сил, значительно превосходящих ваши собственные, если только вы не живете в полицейском государстве, вроде Восточной Германии или Северной Кореи.

Невозможность выцарапать себе место, где можно просто побыть самим собой, – вот что заставляет нас чувствовать себя несчастными. О каком самоуважении вообще речь, если ваше мнение о самих себе больше не имеет первостепенного значения?

Как можно быть счастливым без чувства собственного достоинства? Как можно быть настоящим, когда все, что вы читаете, пишете или делаете, скармливается оценивающей машине?

Если быть точным, оценка внутри ОБЛОМ-машины происходит на двух уровнях. Первый открыт всем желающим. В интернете полно мнений о вас лично. Как много у вас друзей и подписчиков? Привлекательны ли вы? Сколько очков вы набрали в онлайн-игре? Есть ли у вас золотая звезда или еще какая-нибудь виртуальная мишура, полученная от магазина за то, что вы убедили других сделать там покупку?

Второй уровень оценки основан на математических соотношениях, которые скрыты от людей и не поддаются человеческому пониманию. Их иногда называют интерпретациями промежуточного уровня из-за того, как они рождаются в процессе машинного обучения. Эти методы обработки данных используют для оптимизации ОБЛОМа: какого рода реклама с наибольшей вероятностью окажет на вас определенный эффект, какие новости или фотографии милых котиков нужно поместить в вашу ленту новостей?