Юваль Ной Харари - 21 урок для XXI века [Версия с комментированными отличиями перевода]

Уже сегодня в результате компьютеризации финансовая система настолько усложнилась, что мало кто способен понять, как она функционирует. По мере совершенствования искусственного интеллекта мы можем оказаться в ситуации, когда в финансах не будет разбираться вообще ни один человек. Как это повлияет на политические процессы? Попробуйте представить себе правительство, которое будет покорно ждать, пока алгоритм одобрит бюджет или новую налоговую реформу. Тем временем децентрализованные сети блокчейна и криптовалюты вроде биткоина могут полностью изменить денежную систему – так, что придется радикально реформировать налоговую систему. Например, не исключено, что станет невозможно осуществлять взимание налогов, поскольку большинство транзакций будут сводиться к обмену информацией – без перечисления национальной – или любой другой – валюты. В конце концов правительствам придется придумать новые налоги – возможно, это будет информационный налог, который мы будем платить за информацию, причем платить тоже информацией, а не долларами. Сумеет ли политическая система справиться с кризисом раньше, чем у нее закончатся деньги?

Но еще важнее другое. Двойная революция в ИТ и биотехнологиях может изменить не только экономику и общество, но само наше тело и сознание. В прошлом мы, люди, научились менять окружающий мир, но практически не умели повлиять на то, что происходит внутри нас. Мы научились строить плотины и останавливать реки, но не знали, как замедлить старение тела. Мы проектировали оросительные системы, но понятия не имели, как устроен мозг. Если комар зудел у нас над ухом, мешая спать, мы спешили прибить комара; но если мозг гудел от мыслей, не дававших заснуть, мало кто знал, как остановить эти мысли.

Прорывы в биотехнологиях и ИТ позволят нам управлять нашим внутренним миром, проектировать и производить живые организмы. Мы научимся конструировать мозг, продлевать жизнь и избавляться от неприятных мыслей. Но никто не знает, какими будут последствия. Изобретать орудия у людей всегда получалось гораздо лучше, чем разумно их использовать. Легко регулировать течение реки, построив плотину, – но сложно спрогнозировать последствия этой стройки для экологической системы. Точно так же будет проще перенаправить поток наших мыслей, чем предсказать, как это повлияет на психику одного человека или на общественные системы.

Мы уже настолько сильны, что способны управлять внешним миром и менять планету, но еще не понимаем всей сложности глобальной экологии и поэтому, сами того не желая, разрушили экологическую систему и теперь стоим на пороге экологической катастрофы. В грядущем столетии биотехнологии и ИТ дадут нам власть над внутренним миром и позволят менять себя, но мы не понимаем всей сложности нашего разума, и эти изменения могут оказать разрушительное воздействие на наше мышление.

Революции в ИТ и биотехнологиях совершают инженеры, предприниматели и ученые, которые едва ли задумываются над политическими последствиями своих решений и которые не выступают ни от чьего лица. Но могут ли парламенты и партии взять дело в свои руки? В настоящее время, похоже, нет. Разрушительные последствия развития технологий даже не входят в число приоритетных пунктов политической повестки. Во время президентской гонки 2016 года в США революционные технологии упоминались чаще всего в контексте взлома электронной почты Хиллари Клинтон [3] Eric Bradner, ‘Hillary Clinton’s Email Controversy, Explained’, CNN, 28 October 2016, http://edition.cnn.com/2015/09/03/politics/hillary-clinton-email-controversy-explained-2016/index.html , accessed 3 December 2017. , и, несмотря на все разговоры о возможном сокращении рабочих мест, ни один из кандидатов не высказался на тему потенциального влияния автоматизации на этот процесс. Дональд Трамп пугал избирателей, что на их рабочие места покушаются мексиканцы и китайцы, а потому необходимо построить стену на границе с Мексикой [4] Chris Graham and Robert Midgley, ‘Mexico Border Wall: What is Donald Trump Planning, How Much Will It Cost and Who Will Pay for It?’, Telegraph, 23 August 2017, http://www.telegraph.co.uk/news/0/mexico-border-wall-donald-trump-planning-much-will-cost-will/ , accessed 3 December 2017; Michael Schuman, ‘Is China Stealing Jobs? It May Be Losing Them, Instead’, New York Times, 22 July 2016, https://www.nytimes.com/2016/07/23/business/international/china-jobs-donald-trump.html , accessed 3 December 2017. . Однако он ни слова не сказал о том, что американцев могут лишить работы алгоритмы, и не предложил установить межсетевой защитный экран на границе с Калифорнией.

Возможно, это одна из причин (хотя и не единственная), по которой даже в странах либерального Запада избиратели теряют веру в либеральный проект и в демократический процесс. Обычные люди, не разбираясь в искусственном интеллекте и биотехнологиях, чувствуют, что будущее проходит мимо. В 1938 году жизнь простого народа в СССР, Германии и США могла быть безрадостной, но людям постоянно говорили, что важнее их никого в мире нет и что именно им принадлежит будущее (конечно, при условии, что эти «обычные люди» не евреи и не африканцы). Человек смотрел на пропагандистские плакаты, на которых обычно изображались шахтеры, сталевары и домохозяйки в героических позах, и видел в них себя: «На этом плакате я! Я – герой будущего!» [5] Несколько примеров из XIX и начала XX века см. в Evgeny Dobrenko and Eric Naiman (eds.), The Landscape of Stalinism: The Art and Ideology of Soviet Space (Seattle: University of Washington Press, 2003); W. L. Guttsman, Art for the Workers: Ideology and the Visual Arts in Weimar Germany (New York: Manchester University Press, 1997). Общую дискуссию см., например, в Nicholas John Cull, Propaganda and Mass Persuasion: A Historical Encyclopedia, 1500 to the Present (Santa Barbara: ABC–CLIO, 2003).