Герд Леонгард - Технологии против человека

Представьте, какие обороты примет эта ситуация, когда интернет вещей распространится повсюду, соединяя сотни миллиардов предметов: светофоры, автомобили, устройства экологического мониторинга. Представьте упреждающий, предсказательный потенциал, когда у нас появятся инструменты, с помощью которых ИИ сможет разобраться во всех этих данных. При разработке лекарств ИИ, работающий на квантовом компьютере, смог бы наметить триллионы молекулярных комбинаций, моментально выбрать те, которые подходят для лечения, и даже предотвратить начало болезни.

Представьте, что случится, когда банкноты и монеты станут цифровыми, и любую, даже самую маленькую покупку можно будет отследить – эффективно, но явно нарушая границы частной жизни. Что это – выгодные технологические трансформации или «дивный новый мир»? [49] «О дивный новый мир» (англ. Brave New World) – антиутопический роман английского писателя Олдоса Хаксли, написанный в 1932 году.

Несмотря на заманчивые перспективы, которые, казалось бы, открывают опережающие технологии, я вижу в этом определенные этические проблемы, которые только растут, и вот основные из них:

• Зависимость– поручать программам и алгоритмам думать за нас, потому что это гораздо удобнее и быстрее.

• Неопределенность– не знать, кто ответил мне на электронное письмо – сам человек или его ИИ-помощник. Или даже не быть уверенным в том, сам ли я принял решение или мой умный помощник мной манипулировал.

• Потеря контроля– невозможность узнать, являются ли предсказания ИИ истинными или нет, потому что мы не можем отследить логику системы или понять, как работает система машинного обучения на квантовом компьютере. Другими словами, нам придется либо полностью ему доверять, либо не доверять вообще – дилемма, схожая с той, с которой сталкиваются летчики при виде автопилота.

• Отречение– поддаться искушению оставлять как можно больше задач для ИИ, который сделает все за нас: спланирует расписание, назначит встречи, ответит на простые электронные письма. В таком случае, если что-то пойдет не так, будет очень легко обвинить во всем облако, бота или ИИ.

Роботы – это воплощение всех мегасдвигов в одном механизме, где они консолидируются, и на выходе получается удивительные новые создания, которые скоро будут повсюду, нравится нам это или нет. Благодаря значительным прорывам в понимании естественного языка и распознавании изображений, растущей мощности аккумуляторов и появлению новых материалов, которые гарантируют улучшение навыков движения, мы можем ожидать падения цен на роботов, в то время как польза от них будет стремительно расти.

Некоторых роботов даже можно будет напечатать на 3D -принтерах, так же как сейчас выпускают первые автомобили, чьи части были полностью напечатаны 69.

Суть заключается в том, что на пути к экспоненциальным изменениям нам также нужно обращаться к понятиям этики, ценностей и культуры. В обратном случае технологии сначала постепенно, а потом мгновенно превратятся в цель нашей жизни, а не в средство для ее поиска.

Высокая производительность, растущие прибыли на фоне сокращения рабочих мест, увеличивающееся число техномиллиардеров и уменьшающийся средний класс?

Автоматизация заслуживает особого внимания среди прочих мегасдвигов, так как она во все времена была двигателем социальных изменений. Например, восстания луддитов в Англии в 1811–1816 годах, когда на смену ручным ткацким станкам пришли новые механические, происходили от страха людей лишиться средств к существованию из-за новых технологий 70.

История насчитывает множество примеров, когда люди, пострадавшие от внедрения технологий в производство, впоследствии открыли для себя новые возможности благодаря техническому прогрессу. Рынки становились более эффективными, цены снижались, производство росло, открывались новые сектора экономики, и индустриальное общество не страдало от устойчивой технологической безработицы, образовавшейся в результате автоматизации 71. С каждой волной индустриализации технологии создавали условия для появления новых секторов, в рамках которых на смену исчезнувшим рабочим местам создавались новые. Зарплаты увеличивались вместе с производительностью – по крайней мере, до тех пор, пока не появился интернет.