Юваль Ной Харари - 21 урок для XXI века [Версия с комментированными отличиями перевода]

Подобного рода проблемы в гораздо меньшей степени касаются беспилотных гражданских автомобилей, поскольку ни один производитель не станет намеренно программировать машины на то, чтобы они гонялись за людьми и убивали их. А вот автономные системы вооружений – это неминуемая катастрофа, потому что в мире слишком много безнравственных и даже откровенно агрессивных правительств.

Угрозу представляют не только машины-убийцы. Не меньший риск исходит и от систем контроля. В руках демократического правительства мощные алгоритмы контроля превратятся в инструмент, лучше которого еще не знало человечество. Но если те же самые алгоритмы Big Data будут направлены на создание будущего Большого Брата, мы окажемся в оруэлловском мире, где за каждым ведется круглосуточная слежка [68] Ben Schiller, ‘Algorithms Control Our Lives: Are They Benevolent Rulers or Evil Dictators?’, Fast Company, 21 February 2017, https://www.fastcompany.com/3068167/algorithms-control-our-lives-are-they-benevolent-rulers-or-evil-dictators , accessed 17 September 2017. .

Фактически мы имеем все шансы получить то, чего в своем богатом воображении не предвидел даже Оруэлл: режим тотальной слежки, который не только контролирует наши действия и высказывания, но и способен проникнуть нам под кожу и следить за нашими внутренними ощущениями. Какие возможности новые технологии открыли бы перед режимом Ким Чен Ына в КНДР? Предположим, что в будущем каждого северокорейского гражданина заставят носить биометрический браслет, который будет фиксировать каждое его слово, а также следить за его кровяным давлением и активностью мозга. Опираясь на новые знания о человеческом мозге и огромные возможности машинного обучения, северокорейский режим впервые в истории узнает, о чем в каждый момент времени думает каждый житель страны. Если, скажем, вы смотрите на портрет Ким Чен Ына, а биометрические датчики регистрируют явные признаки гнева (повышение кровяного давления, усиление активности миндалевидного тела), уже наутро вы проснетесь в исправительном лагере.

Да, в условиях международной изоляции северокорейский режим вряд ли способен самостоятельно разработать требуемые технологии. Но они появятся в более технически развитых странах, а КНДР и другие отсталые диктатуры просто найдут способ их скопировать. И Китай, и Россия постоянно совершенствуют свои инструменты слежки – как и некоторые демократические страны, начиная с США и заканчивая моей родиной, Израилем. В Израиле, который называют «страной стартапов», чрезвычайно развит сектор высоких технологий и создана самая современная индустрия кибербезопасности. В то же время страна погружена в жестокий конфликт с палестинцами, и некоторые из ее руководителей, генералов и простых граждан были бы рады установить режим тотального контроля на Западном берегу реки Иордан, как только появится необходимая технология.

Уже сегодня за палестинцами, которые звонят по телефону, пишут в Facebook или переезжают из одного города в другой, регулярно следят израильские микрофоны, камеры, дроны или шпионские программы. Собранные данные анализируются с помощью алгоритмов больших данных. Это помогает силам безопасности Израиля выявить и нейтрализовать потенциальные угрозы без проведения военных операций. Под контролем палестинцев находятся некоторые города и деревни на Западном берегу реки Иордан, но израильтяне контролируют небо, радиоволны и киберпространство. Поэтому для эффективного контроля над 2,5 миллиона палестинцев, населяющих Западный берег, требуется на удивление мало израильских солдат [69] Elia Zureik, David Lyon and Yasmeen Abu-Laban (eds.), Surveillance and Control in Israel/Palestine: Population, Territory and Power (London: Routledge, 2011); Elia Zureik, Israel’s Colonial Project in Palestine (London: Routledge, 2015); Torin Monahan (ed.), Surveillance and Security: Technological Politics and Power in Everyday Life (London: Routledge, 2006); Nadera Shalhoub-Kevorkian, ‘E-Resistance and Technological In/Security in Everyday Life: The Palestinian case’, British Journal of Criminology, 52:1 (2012), 55–72; Or Hirschauge and Hagar Sheizaf, ‘Targeted Prevention: Exposing the New System for Dealing with Individual Terrorism’, Haaretz, 26 May 2017, https://www.haaretz.co.il/magazine/.premium-1.4124379 , accessed 17 September 2017; Amos Harel, ‘The IDF Accelerates the Crisscrossing of the West Bank with Cameras and Plans to Surveille all Junctions’, Haaretz, 18 June 2017, https://www.haaretz.co.il/news/politics/.premium-1.4179886 , accessed 17 September 2017; Neta Alexander, ‘This is How Israel Controls the Digital and Cellular Space in the Territories’, 31 March 2016, https://www.haaretz.co.il/magazine/.premium-MAGAZINE-1.2899665 , accessed 12 January 2018; Amos Harel, ‘Israel Arrested Hundreds of Palestinians as Suspected Terrorists Due to Publications on the Internet’, Haaretz, 16 April 2017, https://www.haaretz.co.il/news/politics/.premium-1.4024578 , accessed 15 January 2018; Alex Fishman, ‘The Argaman Era’, Yediot Aharonot, Weekend Supplement, 28 April 2017, 6. .

Случались и трагикомические инциденты. В октябре 2017 года один палестинский рабочий выложил на личной странице в Facebook свою фотографию на рабочем месте рядом с бульдозером. Снимок он сопроводил надписью: «Доброе утро!» Автоматический алгоритм совершил небольшую ошибку при транслитерации арабских букв. Вместо Ysabechhum! (что означает «доброе утро») алгоритм прочел фразу как Ydbachhum! (что означает «бей их»). Заподозрив в этом человеке террориста, который намерен использовать бульдозер для наезда на людей, израильская служба безопасности немедленно его арестовала. После того как ошибка алгоритма была обнаружена, палестинского рабочего отпустили. Но «подозрительный» пост в Facebook все же был удален – излишняя осторожность не помешает [70] Yotam Berger, ‘Police Arrested a Palestinian Based on an Erroneous Translation of “Good Morning” in His Facebook Page’, Haaretz, 22 October 2017, https://www.haaretz.co.il/.premium-1.4528980 , accessed 12 January 2018. . Нынешняя повседневная жизнь палестинцев на Западном берегу может оказаться грубой моделью того, что рано или поздно ждет жителей всей планеты.