Джарон Ланир - 10 аргументов удалить все свои аккаунты в социальных сетях [litres]

Создать малую толику случайности в социальных сетях проще простого. Поскольку алгоритмы несовершенны, случайность будет подлинной. Но в дополнение к этому в новостные ленты привносится элемент намеренной случайности. Причина тому лежит в области базовой математики, а не человеческой психологии.

Алгоритмы социальных сетей обычно «самонастраиваемые». Это означает, что в них постоянно происходят небольшие изменения, призванные показать на выходе лучшие результаты. «Лучшие» в этом случае значит сильнее вовлекающие людей и, таким образом, приносящие больше выгоды. В таких алгоритмах всегда присутствует небольшой элемент случайности.

Предположим, обычный алгоритм показывает вам объявление о продаже носков или других товаров примерно через пять секунд после того, как вы посмотрите видео с котиками. Самонастраивающийся алгоритм проведет проверку, чтобы выяснить, что произойдет, если этот временной интервал уменьшить, скажем, до четырех с половиной секунд. Захочется ли вам купить товар сильнее? Если да, то он скорректирует время показа не только ваших будущих объявлений, но и объявлений тысяч других людей, более или менее совпадающих с вами хоть в цветовых предпочтениях, хоть в водительских привычках [8] Любой ваш шаг в соцсетях все время оптимизируется по подобным схемам. Бывший сотрудник Google Тристан Харрис рассказывает об этом подробнее. Например, он объяснил, по какому принципу вам показывают самые разные опции. Рекомендую почитать его эссе, в том числе «Как технологии угоняют у людей разум» («How Technology Hijacks People’s Minds»). .

Иногда самонастраивающиеся алгоритмы дают сбой, тогда они откатывают свои параметры до прежних показателей. Если после корректировки временного интервала и до четырех с половиной секунд, и до пяти с половиной секунд вы будете меньше хотеть купить носки, рекламу вам снова будут показывать ровно через пять секунд. На основании имеющихся доказательств, алгоритм примет пятисекундный интервал ожидания как оптимальный из всех возможных. По идее, если мелкие случайные изменения не помогают, алгоритм перестает адаптироваться. На деле же самонастраивающиеся алгоритмы никогда не теряют надежду улучшить самих себя.

Что же делать, если улучшить результат могут только более серьезные изменения? Возможно, стоит установить интервал в две с половиной секунды, но постоянные дополнительные поправки не помогут это выяснить, поскольку алгоритм застрял на пятисекундном интервале. Вот почему в самонастраивающиеся алгоритмы заложена возможность большой случайности. Зачастую алгоритм выходит на новый уровень эффективности, когда в почти идеальных настройках происходит сбой [9] Математики часто рассматривают этот процесс как ползание по воображаемому «энергетическому ландшафту». Каждая его позиция соответствует определенным настройкам, которые могут меняться. Так что если вы метафорически ползете по ландшафту, вы исследуете разные параметры. Пятисекундная отметка будет соответствовать области с присвоенным ей алгоритмом. В этой визуализации глубже означает лучше, поскольку для этого требуется меньше энергии. Или же можно воспользоваться метафорой: копать глубже означает найти золотую жилу. В этом вымышленном мире отметка в две с половиной секунды – более глубокая область, которую вы не найдете, если будете продвигаться небольшими шагами ниже области, отмеченной пятью секундами, потому что всегда будете скользить назад. Единственный способ найти более глубокую область – это заставить себя скакнуть куда-нибудь наудачу. .

Такой механизм скачкообразного развития часто бывает заложен в самонастраивающихся системах. Пример тому – полезные мутации, которые происходят в ходе биологической эволюции из-за постоянно нарастающего числа событий. В основе этого процесса лежит естественный отбор, когда гены отдельной особи либо передаются потомкам, либо нет. Мутация – непредсказуемый фактор, открывающий новые возможности, резкий скачок. Каждая новая мутация добавляет виду странные особенности, делающие его сильнее.

Нейрофизиологи закономерно интересуются, может ли подобный процесс происходить в мозге человека. Пока мы знаем, что мозг может адаптироваться к любым условиям, поскольку природа не терпит сбоев.

Пока рекламный алгоритм влияет на эмоции человека, случайность, облегчающая адаптацию программы, подпитывает у людей зависимость. Алгоритм пытается уловить идеальные параметры для манипуляции мозгом, а мозг пытается найти в этом более глубокий смысл и меняет свою реакцию в ответ на эксперименты алгоритма. В основе этой игры в кошки-мышки лежит чистая математика. Поскольку стимулы алгоритма случайны, а значит, бессмысленны, мозг адаптируется не к чему-то реальному, а к выдумке. Этот процесс – застревание в ловушке зыбкого миража – и есть зависимость . По мере того, как алгоритм пытается выбраться из ямы, человеческий разум в ней застревает.