Сандра Сачер - Сила в доверии. Как создать и не потерять один из самых важных нематериальных активов компании

Вторая этическая проблема – вероятность систематической предвзятости и дискриминации в основанных на больших данных алгоритмах, которые используются для предоставления услуг отдельным людям. Финансовые учреждения, например банки, могут точно определить потребности клиентов на основе информации об их жизни. Это позволяет предоставлять более качественные услуги и продукты. Однако благодаря тем же алгоритмам банки могут взимать более высокие проценты с заемщиков с нестандартным профилем и тем самым создавать дискриминирующие условия [13] Bhargav Srinivasan, “Artificial Intelligence and Ethics Implications” (unpublished manuscript, last modified May 12, 2019), Microsoft Word file. . Аналогичные проблемы встречаются в открытых источниках. Пример – разработка алгоритма предварительного расследования имущественных преступлений PredPol [14] Matt Reynolds, “Biased Policing Is Made Worse by Errors in Pre-Crime Algorithms,” NewScientist, October 4, 2017, www.newscientist.com/article/mg23631464-300-biased-policing-is-made-worse-by-errors-in-pre-crime-algorithms/ . . Однако исследование показало, что PredPol направлял сотрудников в районы, которые больше коррелировали с наличием расовых меньшинств, нежели с настоящим уровнем преступности [15] Danielle Ensign, Sorelle A. Friedler, Scott Neville, Carlos Scheidegger, and Suresh Venkatasubramanian, “Runaway Feedback Loops in Predictive Policing,” Proceedings of Machine Learning Research 81 (2018): 1–12, https://arxiv.org/abs/1706.09847 ; Srinivasan, “Artificial Intelligence and Ethics Implications.” .

Третья этическая проблема – это влияние технологий на будущее в плане занятости людей. Эксперты утверждают, что роботы и машины постепенно займут рабочие места, которые не требуют особой квалификации, а затем начнут претендовать и на должности квалифицированных специалистов [16] Calum Chace, The Economic Singularity: Artificial Intelligence and the Death of Capitalism (Three Cs: 2016). . Таким образом, в перспективе люди смогут выполнять все меньше и меньше работы. Но даже если все будет не так ужасно, изменения трудовых и экономических ресурсов повлечет за собой крайне разрушительные последствия для мировой экономики в целом. Неравенство доходов будет усиливаться, так как увеличится пропасть между высокооплачиваемыми и низкооплачиваемыми рабочими местами.

Мы сталкиваемся с проблемами, требующими такого уровня сотрудничества и доверия, как никогда ранее. Например, переломный момент, связанный с ущербом, нанесенным глобальным потеплением, наступит раньше, чем предполагали климатологи, – по некоторым оценкам, это случится всего через двенадцать лет [17] Jonathan Watts, “We Have 12 Years to Limit Climate Change Catastrophe, Warns UN,” The Guardian, October 8, 2018, www.theguardian.com/environment/2018/oct/08/global-warming-must-not-exceed-15c-warns-landmark-un-report . .

В специальном докладе Межправительственной группы экспертов ООН по изменению климата (МГЭИК) подчеркивается важность того, чтобы температура в среднем повысилась всего на 1,5℃, а не на 2,0℃, как это предусмотрено в Парижском соглашении 2015 года [18] Watts, “We Have 12 Years.” . В докладе предложены два пути развития: смягчение последствий и адаптация. Смягчение последствий означает действия, которые препятствуют усилению глобального потепления. Адаптация предполагает действия, учитывающие повышение глобальной температуры, – например, снижение спроса на энергию [19] Intergovernmental Panel on Climate Change (IPCC), “Global Warming of 1.5℃,” accessed August 2, 2020, www.ipcc.ch/sr15/chapter/summary-for-policy-makers . . Заключительный раздел отчета МГЭИК посвящен мерам, которые позволят ограничить рост температуры на 1,5℃. В их основе лежат партнерские отношения между государственным и частным секторами, инвесторами, правительством и учеными. Отмечается, что наш единственный шанс спасти планету, да и самих себя, зависит от способности работать сообща и доверять друг другу.

Кроме того, б о льшая часть этой книги была написана во время пандемии COVID-19. На наших глазах разворачивается один из величайших естественных экспериментов всех времен. Мы видим, как сочетания государственного руководства и культурных предпочтений, таких как убежденный индивидуализм («мне на тебя наплевать»), готовность сотрудничать ради общего блага или беспрекословное подчинение властям, привели к совершенно разным результатам. А если учесть разницу в отношении к науке и фактам, а также внутреннюю политическую, расовую и социальную напряженность, можно подумать, что уровень неопределенности и неравноправия в мире стал выше, чем когда-либо прежде.

В некоторых странах разрыв в доходах создает для отдельных людей крайне неравные условия игры. Наверху находятся те, у кого есть возможность уединиться в летних домиках (или уехать в горы), чтобы снизить риск заражения. Почти все они могут работать из дома, и у многих есть приличная медицинская страховка. Чуть ниже – семьи, где из дома работают оба родителя, которым при этом нужно присматривать за детьми. Еще ниже – те, кто живет в таких стесненных условиях, что изолировать больных нет возможности. Таким людям приходится ездить на общественном транспорте. Перед ними стоит выбор: либо работать с риском заразиться, либо потерять доход. При этом не у всех из них есть возможности медицинского обслуживания. И наконец, на самом дне – безработные, бездомные и все те, чья жизнь определяется тем, чего у них сейчас нет. Посреди всего этого многообразия социальных групп находятся компании, которые способны сгладить неравенство, разрушительное для общества. Сейчас, работая над книгой, мы постоянно держим руку на пульсе и следим за действиями компаний. Нас волнует, как они поддерживают (или нарушают) безопасность сотрудников и клиентов и как помогают облегчить положение тех, кто сильно пострадал.