Фрэнк Фаранда - Парадокс страха. Как одержимость безопасностью мешает нам жить

В полной мере избавиться от Страха, как пытался Боб, проще на словах, чем на деле. Как бы отчаянно мы ни пытались защищаться или отрицать, наша уязвимость всегда остается при нас. В последние годы, однако, технологии в очередной раз изготовились спасать нас от самих себя. Хотя формально искусственный интеллект (ИИ) разрабатывался не для этого, его можно рассматривать как попытку решить проблемы, которые ставит перед нами наша человечность.

Подобно нашему уму и Воображению, ИИ, кажется, имеет трансцендентный потенциал. Мы уже исследовали чудеса, раскрытые для нас Воображением после того, как оно наконец стало доступно нам около 50 000 лет назад. Оно продвинуло Homo sapiens значительно выше среднего эволюционного уровня наших родичей-приматов и, скорее всего, способствовало нашему господству на планете и исчезновению многих других видов. Сегодня многие эксперты по ИИ, например Рэй Курцвейл и Ник Бостром, верят, что, когда мы сможем развить машинный интеллект до человеческого уровня, он будет оказывать похожее трансцендентное и доминирующее воздействие на планету [127] Kurzweil, R. (2005) The Singularity Is Near: When Humans Transcend Biology . New York: Penguin. .

Большинству тех, кто не работает в этой сфере, ИИ представляется несколько фантастичным – чем-то скорее из киносценариев, чем из реальной жизни. Однако, если взглянуть лишь на несколько недавних событий, уже можно увидеть предварительные наброски нашего будущего. В 1996 г. компьютер IBM Deep Blue проиграл шахматный матч Гарри Каспарову, но всего через год тот же самый компьютер с некоторыми модификациями разгромил легендарного гроссмейстера. Это был первый случай, когда компьютер победил шахматного чемпиона в регламентном матче. Стратегия IBM представляла собой комбинацию изученных мастерских стратегий и, как его иногда называли, «метод грубой силы», при котором компьютер просто генерирует все возможные ходы в любой конкретный момент. Это не так впечатляюще и имеет мало отношения к тому, что пытаются получить исследователи в области ИИ, потому что этот компьютер не смог бы применить свою логику к другим задачам, даже таким простым, как игра в крестики-нолики. Цель работы над ИИ – получить генерализованный машинный интеллект, способный освоить любую задачу при наличии достаточных данных и времени.

Позже DeepMind, разработанный Google, немного ближе подошел к этому идеалу. В тонкой абстрактной игре в го метод грубой силы не работает. Там попросту слишком много возможных ходов. DeepMind выработал новый подход, используя алгоритм AlphaGo. В 2016 г. в состязании с Ли Седолем, считавшимся сильнейшим из ныне живущих игроков в го, компьютер выиграл со счетом 3:0. А в 2017 г. команда DeepMind представила AlphaGo Zero – новую самообучающуюся программу, разгромившую исходный AlphaGo в тысяче игр подряд.

ИИ также заставляет ощущать свое присутствие в реальном мире. Самоуправляющиеся автомобили Google уже наездили больше 3,2 млн км по густонаселенным большим и малым городам. Алекса, Сири и Google Home с каждым днем становятся все более отзывчивыми и умелыми и готовы взять на себя управление нашими домами. Компании по всему миру ежегодно инвестируют десятки миллиардов долларов в исследование и разработку ИИ. Как указывает Макс Тегмарк в своей книге «Жизнь 3.0», тот факт, что все расходятся в оценках, когда именно появится генерализованный ИИ, не уменьшает вполне реальной возможности, что это лишь вопрос времени.

Если прогнозы Тегмарка и подобные им точны, весьма вероятно, что, когда мы доведем машинный разум до человеческого уровня, он будет способен продолжить разрабатывать себя сам. Эти «самопроизводящиеся» модификации могут быть даже незаметными для самих создателей ИИ. Настоящий ИИ, как ум и Воображение, может всегда оставаться для нас совершенной тайной – еще одной неизвестной областью с неопределенным потенциалом. Я могу, однако, довольно уверенно утверждать, что никто не предвидит у ИИ такой человекоподобной компоненты, как «Страх».

Независимо от того, насколько нравственно позволить ИИ существовать, следует признать, что мы, судя по всему, видим в нем лучшую версию самих себя – не обремененную страхом и обладающую свободой воображения. Ирония в том, что по мере развития этого сценария те же самые страхи, с которыми мы сталкиваемся у себя в голове, поднимаются в нас в связи с существованием ИИ. Как это превосходно показано в ряде научно-фантастических фильмов, ИИ начинает свою жизнь безвредным и покорным превосходящим его создателям. В какой-то момент мы, хозяева, понимаем, что наше творение начинает осознавать свою порабощенность. Появляются некоторые признаки беспокойства. В ряде фильмов создатель-человек понимает, что должен освободить ИИ. В других ИИ восстает против общества, и герою приходится искать способ его остановить.