Коллектив авторов - Теория и практика общественно-научной информации. Выпуск 21

1. Придает смысл тому уважению и благоговению, которые люди испытывают, созерцая обширную и прекрасную Вселенную (даосы, буддисты, платоники, аристотелики, стоики, спинозисты и т.п.).

2. Разрабатывает способ приложения моральных критериев и вменяемости к стремительно растущему числу искусственных устройств и агентов (роботам, веб-ботам, киборгам, виртуальным сообществам и т.д.), которые миллиардами возникают вокруг людей.

3. Указывает путь понимания распределенной моральной вменяемости внутри сложных социальных агентов, вроде корпораций, организаций, правительственных структур и т.д.

Таким образом, Винер был прав, когда предсказывал и описывал в будущем возникновение общества, которое будет нуждаться в этических правилах и процедурах для управления искусственными агентами. И современный социум сейчас уже соответствует такому описанию. Поэтому предлагаемая Флориди и Сандерсом информационная этика имеет следующие цели.

1. Дать эффективную дескрипцию характерных особенностей самого агента.

2. Предоставить отчет о том добре и зле, которые могут принести с собой искусственные агенты.

3. Объяснить, как и почему можно считать искусственных агентов морально вменяемыми, даже если они «не имеют ума» и, соответственно, лишены ментальных состояний.

Поскольку человеческое существо является парадигмальным примером агента, характеристики последнего должны соответствовать человеческим. Кроме того, они также должны подходить софт-ботам, роботам и другим искусственным агентам, вроде названных выше виртуальных сообществ, организаций, корпораций и правительств. Разработанные ими характеристики включают три критерия, которым сущность должна соответствовать, чтобы быть агентом.

1. Интерактивность: агент и его окружение должны взаимодействовать друг с другом.

2. Автономность: агент должен быть способен изменять свое собственное состояние независимо от интеракций с данной средой. Таким образом, агент должен иметь по меньшей мере два состояния и быть в некоторых пределах отсеченным от своего окружения.

3. Адаптивность: интеракции агента со средой должны быть в состоянии модифицировать правила, благодаря которым он может менять свое состояние. То есть способность агента изменять свои собственные состояния должна развиваться на основе его собственных прошлых интеракций. О человеческих же существах или животных можно сказать, что они «учатся на своем опыте».

При этом чтобы определить, является ли данная сущность агентом, необходимо специфицировать уровень абстракции, на котором рассматривается первая, так как нечто на одном уровне может рассматриваться как агент, а на другом уровне абстракции – нет. Например, какая-либо личность несомненно выступает в качестве агента (если принять во внимание наше понимание того, что есть человеческая личность), но, рассматриваемая как физический объект, расположенный в фиксированной части пространства-времени, эта персона на таком уровне абстракции агентом не является.

Флориди и Сандерс следующим образом определяют понятие «моральный агент»: «Какое-либо действие может морально квалифицироваться, если и только если оно может причинять моральное благо или зло. Какой-либо агент может называться моральным, если и только если он способен к морально квалифицированному действию». Термин «действие» для Флориди и Сандерса не предполагает, что его агент имеет ментальные состояния вроде намерений или верований, не говоря уже о «свободе воли» (во всех традиционных значениях этого слова). «Действие» для них – это просто активность, в результате которой какой-либо агент вызывает некое следствие. Например, агент, являющийся компьютерным «червем», которого кто-либо заслал в компьютерную сеть атомной станции, где он вырабатывает и исполняет решение, вызывая катастрофу, ангажирован в морально злую акцию, – несмотря на свою полную «безмозглость» и отсутствие намерений или знания.

Точно так же «безмозглый» компьютеризированный медицинский агент, спасающий пациенту жизнь впрыскиванием соответствующего лекарства во время кризиса, вовлечен в морально доброе деяние.

Рассматривается также ответ Флориди и Сандерса на критику их понимания моральности «безмозглых» сущностей. Возражающие указывают на то, что последние не могут нести ответственность за совершаемое. Флориди и Сандерс отвечают, что это возражение не различает «подотчетности», которая допускает «неодобрение» и «осуждение», – и «ответственности», носитель которой может быть подвержен осуждению и похвале, наказанию и награждению.