Герд Леонгард - Технологии против человека

Сегодня у нас есть стандарты, инструкции и договоренности, регулирующие развитие биотехнологий и биоинженерии, например, инструкции, принятые на конференции Asilomar по рекомбинаторной ДНК в 1975 году 101. У нас также есть договоры о нераспространении ядерного оружия. Тем не менее у нас еще нет похожих договоренностей в сфере данных и интеллекта, которые являются «нефтью» цифровой эры. Несмотря на то что данные уже стали самым мощным двигателем экономики, мы все еще не подписали глобальный договор, в котором бы оговаривалось, что можно, а что нельзя делать с личными данными более 3,4 миллиардов интернет-пользователей 102. Договоренностей по когнитивным вычислениям [72] Когнитивные вычисления ( cognitive computing ) – технологии, которые частично повторяют особенности работы мозга человека и способны работать во много раз эффективнее. или искусственному интеллекту также еще не существует. За исключением появления ядерного оружия, в истории человечества произошло мало кардинальных изменений, вызвавших столь незначительную реакцию. Экспоненциальное использование данных, а также ИИ уже весьма скоро действительно превзойдет влияние ядерного оружия, но тем не менее ИИ остается почти неконтролируемой сферой.

Кто сможет проверить, насколько правильно поступают ведущие компании в области ИИ и данных? Кто проконтролирует новые замечательные интернет-вещи, чтобы они поступали правильно? И что это вообще значит – правильно? Кто это определяет? Сможем ли мы вообще понять, что правильно, а что нет?

Что помешает новым хозяевам Вселенной не только обратить все процессы и аппаратное обеспечение в данные, но и превратить людей в вещи, будь то случайно или намеренно? Несмотря на восторг, который интернет вещей вызывает у всей технологической индустрии, – это риск, на который мы не можем пойти бездумно и без применения крайних мер предосторожности.

Мы должны обеспечить соблюдение баланса, который будет способствовать настоящему человеческому развитию, уравновешивая технологии, ступающие экспоненциальными шагами, беспокойством о человеческой сущности, и иногда вбрасывая отвлекающий вопрос о ней между нулями и единицами, которые начинают управлять нашей жизнью.

Я скромно предлагаю применить обновленную версию превентивного принципа (см. главу 8) к тем, кто собирается обеспечить и осуществить благое влияние интернета вещей. Он будет ограничением, гарантирующим, что интернет вещей не сможет навредить тем, кому придется существовать под его властью. Это в первую очередь относится к тем, кто будет контролировать интернет вещей; только установив, что эти лица несут ответственность, мы сможем двигаться дальше. В то же время нам предстоит проявлять активный подход к развитию этих технологий и не препятствовать инновациям.

Вопрос уже не заключается в том, чтобы выбрать «либо одно, либо другое», или в простом соединении этих двух стратегий. Homo sapiens вступают на доселе неизведанную территорию, спустя 70 лет после того, как было принято неоднозначное политическое решение и военный эксперимент по использованию ядерного оружия был реализован. Мы продолжаем идти навстречу миру больших данных, и на этот раз уже без какой-либо новой войны, которая могла бы оправдать это движение. Тем не менее мы движемся в этом направлении так легко, как будто думаем, что у нас будет возможность остановиться в любой момент. Интернет вещей сможет окружить человечество и изменить его сущность, точно так же как он сможет наделить богоподобным всемогуществом своих владельцев. Нам нужно принимать меры предосторожности и одновременно оставаться верными прогрессу – но два этих фокуса больше не могут существовать отдельно и продвигаться отдельными группами людей.

Пока мы все отрываемся на свадебной техновечеринке, нам не помешало бы задуматься о том, какую цену придется завтра заплатить за этот банкет.

В 1961 году Артур Кларк – один из отцов-основателей футурологии, оказавший огромное влияние на мою работу, – сказал следующее: «Любая достаточно развитая технология неотличима от магии» 103. Сегодня мы можем видеть, что Кларк оказался прав: в предыдущих главах мы уже отмечали достижения науки и технологий, которые выходят за рамки самых смелых фантазий.

Магические свойства технологий стали важным фактором развития коммерческой, экономической и социальной сфер, обеспечили рост и успех на рынке таких компаний, как Google, Apple, Facebook, Amazon, Baidu, Tencent [73] Tencent – китайская технологическая компания, основанная в 1998 году, занимается поддержкой наиболее распространенной в Китае сети обмена быстрыми сообщениями QQ , а также системы для передачи текстовых и голосовых сообщений WeChat , владеет компанией разработчиком видеоигр RiotGames . и Alibaba [74] Alibaba – китайская публичная компания, работающая в сфере интернет-коммерции, владелец B2B-веб-портала Alibaba.com. . Магические силы технологий также благоприятствуют в первую очередь американским и китайским компаниям-единорогам: Baidu, Dropbox, Uber и Airbnb , появившимся на рынке сравнительно недавно.