Эли Паризер - За стеной фильтров. Что Интернет скрывает от вас?

Возникает ряд серьезных вопросов по поводу науки, ведь она, по сути, представляет собой метод использования данных для прогнозирования будущего. Карл Поппер, выдающийся философ науки, всю жизнь пытался разобраться в проблеме индукции. Мыслители-оптимисты конца XIX века, изучая историю науки, видели и пей движение к истине. Поппер же решил сосредоточиться на тех обломках, что бросают вдоль этой дороги: на изобилии неверных теорий и идей, полностью соответствующих научным канонам и при этом ужасающе ошибочных. В конце концов, птолемеева концепция мира, где в центре — Земля, а Солнце и другие планеты вращаются вокруг нее, выдержала огромное количество математических проверок и научных экспериментов.

Поппер поставил проблему несколько иначе: если вы видели только белых лебедей, это еще не значит, что все лебеди — белые. Искать нужно черного лебедя — контрпример, подтверждающий, что теория ошибочна. «Фальсифицируемость», доказывал Поппер, — это ключ к поиску истины. Целью науки, с его точки зрения, было нахождение максимально убедительных аргументов, против которых никто не сможет найти контрпример — черного лебедя [277] Karl Popper. The Logic of Scientific Discovery. New York: Routledge, 1992. . В основе взглядов Поппера лежало глубокое смирение в отношении выводимых научным методом знаний — ощущение, что мы ошибаемся столь же часто, как оказываемся правы, и обычно не знаем, правы мы или нет.

Именно этого лишены многие алгоритмические методы прогнозирования. Конечно, время от времени они сталкиваются с людьми и поступками, которые не вписываются в их шаблон, но такие отклонения не подрывают их фундаментальных основ. Ведь рекламодатели, от чьих денег зависит развитие подобных систем, не нуждаются в идеальных моделях. Им важно «попасть» в целевую аудиторию, а не прочувствовать всю сложность человеческого существа.

Когда вы моделируете погоду и предсказываете, что вероятность дождя составляет 70 процентов, этот прогноз никак не затрагивает состояние грозовых туч. Дождь пойдет или не пойдет, и все. Но когда вы предсказываете, что если мои друзья неплатежеспособны, то вероятность моей неплатежеспособности составляет 70 процентов, ситуация иная: ошибка повлечет за собой последствия. Это будет дискриминация.

Лучший способ избежать чрезмерной подгонки, по мнению Поппера, — это доказать ложность модели и выстроить новые алгоритмы, учитывающие презумпцию невиновности. Если Netflix показывает мне романтическую комедию и она мне нравится, он покажет мне еще одну и решит, будто я поклонник романтических комедий. Но если он хочет получить достоверную картину моей личности, ему следует постоянно проверять эту гипотезу — например, подкинуть мне фильм «Бегущий по лезвию» [278] Blade Runner — культовый фильм режиссера Ридли Скотта по мотивам романа Филипа Дика «Мечтают ли андроиды об электроовцах?», существует в семи версиях. Прим. ред. и попробовать доказать, что я люблю не только комедии. Иначе я попаду в ловушку локального максимума, где обитают Хью Грант и Джулия Робертс.

Статистические модели, на которых основана степа фильтром, списывают со счетов слишком сильные отклонения. Но па деле именно они делают жизнь интересной и дают нам вдохновение. И именно отклонения — первые признаки перемен.

Один из лучших аргументов против алгоритмов прогнозирования можно найти, как это ни удивительно, у русского романиста XIX века Федора Достоевского. Его книга «Записки из подполья» была страстной критикой утопического научного рационализма тех дней. Достоевский размышлял над регламентированной, упорядоченной человеческой жизнью, которую обещала наука, и пророчил банальное будущее. «Все поступки человеческие, — ворчит безымянный рассказчик, — само собою, будут расчислены тогда по этим законам, математически, вроде таблицы логарифмов, до 108 000, и занесены в календарь… все будет так точно исчислено и обозначено, что на свете уже не будет более ни поступков, ни приключений». [279] Цит. по: Достоевский Ф. М. Записки из подполья // Достоевский Ф. М. Собрание сочинений в десяти томах. М.: Художественная литература, 1957. Прим. ред. .

Мир часто следует предсказуемым правилам и соответствует предсказуемым моделям: прилив начинается и кончается, затмение приходит и уходит, даже погода становится все более предсказуемой. Но применять такой подход к человеческому поведению опасно хотя бы потому, что лучшие мгновения нашей жизни — зачастую самые непредсказуемые. Если жизнь полностью предсказуема, то и жить не стоит. Но алгоритмическая индукция может привести к тотальному детерминизму, когда наши предыдущие клики полностью определяют наше будущее. Иными словами, если мы не будем стирать нашу интернет-историю, возможно, нам придется повторять ее вечно.