Что интересно, общества с низким уровнем доверия больше опираются на «семейные ценности», чем другие культуры. Одно из возможных объяснений этому: чем меньше надежды людям внушают их государственные религии, тем больше они стараются черпать надежду в семейных религиях, и наоборот. См.: Fukuyama, Trust («Доверие»), pp. 61–68.
Это одно из объяснений парадокса прогресса, которое я особо подробно не рассматривал: с каждым улучшением, которое мы привносим в жизнь, мы рискуем потерять все больше и все меньше можем приобрести. Как мы помним, надежде необходимо представление о каких-то будущих благах – но чем лучше жизнь в настоящем, тем труднее представить еще более хорошее будущее и тем проще представить более страшные потери. Другими словами, интернет – это здорово, но он дает людям массу новых возможностей развалить общество и хрен знает что тут устроить. Так что, парадоксальным образом, каждое технологическое новшество предоставляет нам также новые средства для уничтожения друг друга и самих себя.
В 1950 г. Алан Тьюринг, отец информатики, создал первый шахматный алгоритм.
Оказалось, что запрограммировать в компьютер функциональные возможности Чувствующего мозга невероятно трудно, хотя функциональные возможности его Думающего мозга давно превзошли человеческие. Все потому, что Чувствующий мозг задействует все наши нейронные сети, а Думающий ограничивается одними лишь вычислениями. Я, возможно, скомкано объясняю, но в разработке ИИ есть такой интересный момент: нам и в собственном Чувствующем мозге разобраться трудно, и в машинах его воссоздать не удается.
В последующие годы после этого первого поражения сам Каспаров, а также Владимир Крамник сыграли несколько матчей с лучшими шахматными программами вничью. Но к 2005 г. программы Fritz, Hydra и Junior уже уделывали ведущих гроссмейстеров, порой не проигрывая ни единой партии. К 2007 г. гроссмейстерам стали давать дополнительные ходы, дополнительные пешки и варианты первого хода – но они все равно проигрывали. К 2009 г. все перестали даже пытаться. А смысл?
Это правда, хотя не настолько буквальная. В 2009 г. мобильная шахматная программа Pocket Fritz обыграла Deep Blue в матче из десяти партий. Fritz победила, несмотря на то, что вычислительных возможностей у нее меньше, – так что она просто лучше как программа, дело не в мощностях.
Michael Klein, “Google’s AlphaZero Destroys Stockfish in 100-game Match,” Chess.com, December 7, 2017, https://www.chess.com/news/view/google-s-alphazero-destroys-stockfish-in-100-game-match.
Сёги считается более сложной игрой, потому что в ней можно получить в свое распоряжение фигуры противника, а это создает еще больше вариантов, чем в шахматах.
На тему потенциальной массовой безработицы, вызванной ИИ и автоматизацией, советую почитать вот эту блестящую работу: E. Brynjolfsson and A. McAfee, Race Against the Machines: How the Digital Revolution Is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment (Lexington, MA: Digital Frontier Press, 2011).
K. Beck, “A Bot Wrote a New Harry Potter Chapter and It’s Delightfully Hilarious,” Mashable , December 17, 2017, https://mashable.com/2017/12/12/harry-potter-predictive-chapter.
J. Miley, “11 Times AI Beat Humans at Games, Art, Law, and Everything in Between,” Interesting Engineering , March 12, 2018, https://interestingengineering.com/11-times-ai-beat-humans-at-games-art-law-and-everything-in-between.
Примерно так же, как сейчас уже почти невозможно представить себе жизнь без Google, электронной почты или мобильных телефонов.
С эволюционной точки зрения людям пришлось очень многим пожертвовать, чтобы получить максимально большой мозг. По сравнению с другими обезьянами и вообще млекопитающими мы медленные, слабые, хрупкие и органы восприятия у нас не такие чуткие. Но почти все физические способности, которых мы лишены, – это плата за то, чтобы дать нашему мозгу больше энергии и увеличить период его развития. Так что оно того стоило.
См.: Дойч Д. Начало бесконечности. Объяснения, которые меняют мир. – М.: Альпина нон-фикшн, 2019.
Ну, технически большинства этих проблем до нас не было, но, наверное, есть и другие причины.
Haidt, The Righteous Mind , pp. 32–34.
Про ненависть к себе – это отсылка к общечеловеческому чувству вины, неразрывно связанному с самим нашим существованием, о котором я говорил в главе 4. Про истребление себя, думаю, и так все понятно.
Такие дикие сценарии на самом деле вполне правдоподобны – они хорошо освещены в публикации Nick Bostrom, Superintelligence: Paths, Dangers, Strategies (New York: Oxford University Press, 2014).
Читать дальше
Конец ознакомительного отрывка
Купить книгу