Эндрю Макафи - Машина, платформа, толпа. Наше цифровое будущее

2. Не понимая чего-нибудь до конца, мы путаемся, поэтому нам свойственно заполнять пробелы в знаниях… [Однако] в ходе этого возникают иллюзии. Иногда мы принимаем за истину додуманные нами подробности и конструируем концепции и истории, которых на самом деле не было [122] Для этого процесса есть затейливое название «апофения» (термин образован от греческого слова, которое можно перевести как «делать явным»; он означает способность человека видеть взаимосвязи, структуру и смысл в случайных данных. Прим. перев. ). Модели в статистике и машинном обучении иногда допускают ту же самую ошибку, обычно называемую переподгонкой. .

3. [Нам] нужно действовать быстро, чтобы не упустить свой шанс, так что мы всегда спешим с выводами… [Однако] это может иметь неприятные последствия. Некоторые из наших мгновенных реакций и принятых второпях решений оказываются вредными, эгоистичными и контрпродуктивными.

4. Запутавшись, мы пытаемся восстановить в уме важные детали… [Однако] память подкрепляет ошибки. Некоторые из вещей, что впоследствии мы считаем истинными, на самом деле лишь усугубляют вышеназванные проблемы, в результате чего нашим мыслительным процессам наносится больший вред [123] Buster Benson, “Cognitive Bias Cheat Sheet,” Better Humans , September 1, 2016, https://betterhumans.coach.me/cognitive-bias-cheat-sheet-55a472476b18#.qtwg334q8 . .

Мы хотим обратить внимание на еще одну серьезную проблему когнитивных способностей человека: мы не в силах точно узнать, когда Система 1 работает хорошо, а когда нет. Другими словами, у нас слабое представление о собственной интуиции. Мы не знаем, правильно наше мгновенное решение или вынесенное суждение или оно подверглось воздействию одного или нескольких искажений. В этом видится странная параллель с парадоксом Полани: мы также знаем меньше , чем способны сказать, в данном случае меньше о результатах работы Системы 1. Вычисления и рассуждения Системы 2 чаще всего можно проверить, но, как указывает Канеман, Систему 1 проверить сложнее, тем более самостоятельно.

Недавние исследования выявили один особо коварный сбой, связанный с парадоксом Полани: часто Система 1 выдает заключение, а затем просит Систему 2 объяснить его. Психолог Джонатан Хайдт утверждает: «Суждение и обоснование – это два разных процесса» [124] Jonathan Haidt, “Moral Psychology and the Law: How Intuitions Drive Reasoning, Judgment, and the Search for Evidence,” Alabama Law Review 64, no. 4 (2013): 867–80, https://www.law.ua.edu/pubs/lrarticles/Volume%2064/Issue%204/4%20Haidt%20867-880.pdf . . Вынесение суждений Системой 1 происходит почти непрерывно. Затем каждое из них подтверждается на рациональном и убедительном языке Системы 2 [125] Джонатан Хайдт в своей книге «Гипотеза счастья» (The Happiness Hypothesis) объясняет: «Тот факт, что люди с готовностью создают причины для объяснения собственного поведения, называется конфабуляцией. (Строго говоря, конфабуляцией называются любые ложные воспоминания при расстройствах памяти, когда реальные события забываются, а пробелы заполняются вымыслом. Прим. перев. ) Конфабуляция так часто встречается при работе с пациентами, перенесшими расщепление мозга, и больными, страдающими церебральными нарушениями, что [психолог Майкл] Газзанига говорит о языковых центрах в левом полушарии как о модуле-переводчике, работа которого – давать подстрочный комментарий к тому, что делает человек, хотя модуль-переводчик не имеет доступа к реальным причинам или мотивам поведения личности. Например, если для правого полушария вспыхивает слово “гулять”, пациент может встать и выйти. Если спросить, почему он поднялся, он может сказать: “Хочу взять кока-колу”. Модуль-переводчик хорошо создает такие объяснения, но не знает, что он это делает» (Jonathan Haidt, The Happiness Hypothesis: Finding Modern Truth in Ancient Wisdom (New York: Basic Books, 2006), 8). . Такая хитрость часто обманывает не только другие умы, но даже тот самый, что ее придумал. Мы часто «говорим больше, чем знаем» [126] Richard E. Nisbett and Timothy DeCamp Wilson, “Telling More Than We Can Know: Verbal Reports on Mental Processes,” Psychological Review 84, no. 3 (1977): 231–60, http://www.people.virginia.edu/~tdw/nisbett&wilson.pdf . , как заметили психологи Ричард Несбитт и Тимоти де Камп Уилсон. Характеристики поведения, которые мы называем рационализацией и самооправданием, – не всегда упражнения в отговорках. Это также нечто более фундаментальное, это Система 1 за работой.

В 2006 году Авинаш Каушик и Ронни Кохави, два специалиста по анализу данных, которые в то время работали в Intuit и Microsoft соответственно, придумали акроним HiPPO [127] Experimentation Platform, “HiPPO FAQ,” по состоянию на 26 февраля 2017 года, http://www.exp-platform.com/Pages/HiPPO_explained.aspx . для обозначения доминантного стиля принятия решений в большинстве компаний. Аббревиатура означает «мнение самого высокооплачиваемого лица» [128] Сокращение от англ. highest-paid person’s opinion – мнение самого высокооплачиваемого лица. Одновременно слово hippo означает «бегемот». Прим. перев. . Нам нравится это сокращение, и мы часто его используем, поскольку оно ярко иллюстрирует стандартное партнерство. Даже если решения принимаются не самым высокооплачиваемым работником, они часто, слишком часто бывают основаны на мнениях, суждениях, интуиции, чутье и Системе 1. Очевидно, что такой подход во многих случаях не срабатывает и что HiPPO часто наносят ущерб.