Ричард Уотсон - Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?

Я снова сижу в спальне, но на этот раз сейчас 5.48 утра.

Птицы начали петь, и янтарный огненный шар медленно поднимается над горизонтом. По неизвестной причине он напоминает мне вступительные кадры сериала 2001 года « Космическая Одиссея ». Свечение этого источника энергии, от которого зависит жизнь каждого человека, соперничает с сиянием подсвеченного логотипа Apple. И чип, который управляет логотипом, и оконное стекло, в котором отражается яркое свечение, изготовлены из песка, хотя окно было сделано на целый век раньше. В 6.04 утра компьютерный логотип поблек, и вид из окна стал более четким.

Совершенно ясно, что будет продолжаться переход к цифровым системам, потому что мы одержимы нечестивой троицей – скорость, удобство и эффективность. Как отмечает Джордж Заркадакис, имеется глобальная тенденция – связь между физической экономикой и цифровой сферой становится все, больше, глубже и осуществляется быстрее. Различие между тем, что реально и что создано искусственно, продолжит размываться. Заглядывая в будущее, мы, несомненно, приближаемся к эпохе, когда интеллект и возможности наших машин будут во многих областях превышать наши собственные.

Частные лица и учреждения, которые выживут в условиях неопределенности и хаоса, будут открытыми, очень сообразительными и сосредоточатся на том, что люди умеют делать лучше всего. Также все в порядке будет у тех, кто работает вместе с машинным разумом, а не против него, особенно если вспомнить о том, что люди – существа уникальные, и цифровые технологии всегда следует использовать для улучшения мышления и отношений людей, а не для полной замены их. В противном случае значение людей будет девальвироваться до такой степени, что их будут увольнять по причине ненужности или избыточности.

Будем надеяться, что цифровые технологии будут усиливать наше дружелюбие в той же степени, в какой сейчас они подчеркивают нашу нетерпимость. Поэтому мы должны рассматривать будущее как симбиоз цифровых технологий и людей, а не их противостояние. Но для достижения этого хрупкого равновесия нам следует начать задаваться простым вопросом: что такое цифровые технологии и чего мы желаем от них добиться в наших интересах? (Это не самый простой мой вопрос.)

Что особенно важно, мы должны начать широкую дискуссию о том, что приемлемо, а что нет в контексте автоматизации, а также о поддержании человеческого достоинства и самоуважения, чтобы они не были раздавлены в спешке ради удобства, доступности или в ходе заботы об определенных узких аспектах жизни. В 1783 году Уильям Питт заявил, что «необходимость – это призыв к нарушению свободы любого человека; это аргумент тиранов, это символ веры рабов». Вместо слова «необходимость» мы могли бы сегодня использовать слово «эффективность».

Нам также нужно склонять общество перейти от эгоистичной позиции «я» к более широкому понятию «мы» и относиться к людям как к ценному активу, а не как к расходному материалу, траты на который следует сократить. Все иное, по справедливому замечанию Джарона Ланье, не что иное, как мошенничество. Такая траектория развития, в свою очередь, потребует пересмотра публичных и частных интересов наряду с прибылью и производительностью и заставит позаботиться о новых мерах социальной и экологической защиты.

Нам необходимо срочно рассмотреть проблему все возрастающего чувства несправедливости, отчуждения и социальной изоляции, вытекающих из гиперкоммуникабельности, особенно с учетом потенциальных экономических дисбалансов, вызванных увеличением влияния цифровых технологий.

Можем ли мы внести подобные проблемы в суперкомпьютер, чтобы решить, что делать? Ответ – нет. В настоящее время не существует универсальной машины, которой мы могли бы задать вопрос о смысле жизни. И даже если бы она была, нас вряд ли устроил бы ответ «42» [41]. Если мы изобретем машины, которые будут обретать суперинтеллект на основе опыта – то есть машины, которые смогут по-настоящему думать, – нет никаких причин полагать, что они будут думать так же, как мы. Их разум может быть на много порядков выше, чем наш собственный, и, возможно, будет понят только другими машинами. Есть также вероятность того, что высокоразвитым машинам станет скучно, они будут впадать в депрессию или паранойю, как Марвин из « Автостопом по Галактике ».

Компьютеры полезны для получения ответов на вопросы. Они бесполезны при формулировании вопросов. Таким образом, первое, о чем мы должны спросить себя: «Что такое вопрос?» У меня нет мгновенного ответа, но, думаю, он лежит где-то в болоте неопределенности между мягкостью человеческих сердец и жесткостью цифровых мозгов.