Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

С другой стороны, несмотря на эти разногласия, есть много этических принципов, с которыми согласится большинство – и в разных культурах, и в разные века. Например, почитание красоты, великодушия и истины уходит корнями к Бхагавадгите и Платону. Институт перспективных исследований Принстона, где я когда-то был аспирантом, имел кредо “Истина и Красота”, в то время как Гарвардский университет опустил эстетическую составляющую и провозглашал просто “Veritas”, то есть истину. В книге A Beautiful Question [54] См.: Вильчек Ф. Красота физики. Постигая устройство природы / пер. с англ. В. Краснянская, М. Томс. М.: Альпина-нон-фикшн, 2016. – Прим. перев. мой коллега Фрэнк Вильчек утверждает, что истина связана с красотой и что мы можем рассматривать нашу Вселенную как произведение искусства. Наука, религия и психология – все вдохновлены истиной. Религия ставит сильный акцент на доброте, как и мой университет, MIT: в своей приветственной речи в начале 2015 года наш президент Рафаэль Рейф подчеркнул, что наша миссия состоит в том, чтобы делать мир лучше.

Несмотря на то что попытки прийти к консенсусу по этическим вопросам до сего момента оказывались неудачными, есть распространенное мнение, что некоторые этические принципы происходят от других, более фундаментальных, как вспомогательные цели от конечных целей. Например, поиск истины можно рассматривать в связи со стремлением к лучшей модели мира (см. рис. 7.2), понимание окончательной реальности приводит нас к новым этическим целям. В самом деле, у нас теперь есть прекрасная канва, в которую вписывается поиск истины, – научный метод. Но как мы сможем определить, что красиво или хорошо? Некоторые аспекты красоты также можно проследить до лежащих в основе целей. Например, наше понимание мужской и женской красоты может частично отражать наше неосознанное суждение о том, насколько данный объект подходит для воспроизведения наших генов.

Что касается доброты, так называемые золотые правила (что относиться к другим надо так, как хочешь, чтобы относились к тебе) присутствуют в большинстве культур и религий и, очевидно, призваны к развитию гармоничного человеческого общества (а следовательно, и генов) через усиление сотрудничества и отказ от непродуктивного соревнования {95} 95 Современный вариант этого “золотого правила” предложил Джон Ролз: гипотетическая ситуация морально приемлема, если никто не хочет ее изменить, не зная заранее, какое место в ней займет. . То же самое можно сказать о более конкретных этических правилах, которые были закреплены в законодательных системах по всему миру, – таких, как конфуцианская важность честности и многие из десяти заповедей, включая “не убий”. Другими словами, многие этические принципы имеют сходство с социальными эмоциями, такими как эмпатия и сострадание: они развивают сотрудничество и влияют на наше поведение через поощрение и наказание. Если мы сделаем что-то жестокое и будем потом об этом сожалеть, наше эмоциональное наказание измеряется химией нашего мозга. А общество может наказать нас за нарушение этических принципов косвенным путем – например, неформальным порицанием со стороны близких или официальным обвинением в нарушении законов.

Другими словами, хотя сегодняшнее общество довольно далеко от этического консенсуса, существует много базовых принципов, с которыми почти все согласны. Это неудивительно, потому что человеческое общество, дожившее доныне, стремится к тому, чтобы его этические принципы оптимально вели к главной цели: способствовали выживанию и процветанию. Заглядывая в будущее, где у жизни появляется шанс распространиться в космосе и существовать там на протяжении миллиардов лет, мы должны решить: какой минимальный набор этических принципов подойдет для нас в таком будущем? Обсуждать их должны мы все. Я знакомился с этическими воззрениями самых разных мыслителей на протяжении многих лет, эта тема меня увлекала, и я смог выделить из всего разнообразия их взглядов четыре принципа:

1) Утилитаризм: положительные чувственные переживания следует приумножать, а страдания надо свести к минимуму;

2) Диверсификация: разнообразие положительных переживаний лучше, чем частое повторение одного и того же переживания, даже если последнее было определено как самое положительное из возможных;

3) Автономность: обладающие сознанием сущности / общества должны иметь свободу преследовать свои собственные цели, если только это не противоречит более важным принципам;