Грегуар Шамаю - Теория дрона

Во-первых, наделить механических агентов правом на убийство, которым взаимно наделены во время войны комбатанты, приравнивает убийство к разрушению бездушной вещи, что приводит к радикальному отрицанию человеческого достоинства. Право, принимающее в расчет подобные случаи, может привести к появлению третьего смысла человечности, который наложит запрет на использование подобного оружия, признав человеческий род объектом защиты высшего порядка.

Во-вторых, действующее ныне право военных конфликтов, фокусируясь на использовании оружия 508, устанавливает возможность реального различия между оружием, которое рассматривается как вещь, и комбатантом, который рассматривается как использующее его лицо, несущее за него ответственность. Но летальный робот подрывает основы этой имплицитной онтологии права. Это непредвиденный случай вещи, которая использует сама себя. Оружие и комбатант, инструмент и актор, вещь и личность любопытным образом сливаются в единую сущность, не имеющую статуса.

Эта проблема проявляется прежде всего в кризисе юридических категорий: могут ли некоторые вещи рассматриваться в качестве личностей? Но она также приводит, в чисто практическом смысле, к радикальному кризису применимости права.

Все вертится вокруг вопроса ответственности, а через него – вокруг самой возможности дистрибутивной справедливости, связанной с правом войны.

Робот совершает военное преступление. Кто за это ответит? Генерал, который его отправил? Государство, которое им владеет? Компьютерщики, которые его запрограммировали? Промышленник, который его построил? Обитатели этого тесного мирка, скорее всего, будут переводить стрелки друг на друга. Военачальник всегда может сказать, что он не отдавал приказа роботу и в любом случае его больше не контролировал. Государство – собственник машины, в его юридическом статусе «хранителя имущества», несомненно, будет нести часть ответственности, но оно сможет, сославшись на то, что ущерб связан с дефектом производства, переложить ее на промышленника, который в свою очередь попытается свалить все на программистов в случае обвинения в причинении ущерба третьему лицу. Останется только сам робот: в этом случае придется сажать в тюрьму машину, приписать ему человеческие мотивы поведения и после процесса казнить в общественном месте, подобно преступной свинье, приговоренной к смерти за убийство ребенка в 1386 году в деревне Кальвадос 509. В чем, конечно же, будет не больше смысла, чем бить и оскорблять мебель, о которую мы ударились, чтобы отбить у нее желание повторить нечто подобное.

Если коротко, то мы получим целый набор ответственных и безответственных лиц, которым будет крайне сложно приписать авторство убийства. Больше никто не будет нажимать на кнопку, нужно будет отыскать в хитросплетениях – как юридических кодексов, так и программных кодов – ускользающий субъект.

Парадокс в том, что вместе с подобной автономизацией летальных решений единственным человеческим актором, который может быть непосредственно идентифицирован в качестве действующей причины смерти, будет сама человеческая жертва, имевшая несчастье неуместными движениями своего тела, как это уже происходит с противопехотными минами, запустить автоматизированный механизм своего уничтожения.

Исчезнет не просто установление персональной ответственности, а она сама: будучи распределенной по обезглавленной сети множественных акторов, она постепенно утратит свою квалификацию, из намеренного став ненамеренным, из военного преступления – военно-промышленным инцидентом. Почти как в случае «мусорных облигаций», которые умышленно производятся в финансовой сфере, становится крайне сложно понять, кто кому и что должен. Этот типичный диспозитив фабрики по производству безответственности.

Но зачем так переживать из-за поиска действительно виновных, хором спрашивают специалисты по робоэтике, если преступление таким образом будет невозможным? Каким бы странным ни казалось подобное возражение, необходимо оценить весь масштаб проекта, с которым оно связано. Здесь важен именно способ имплементации юридической нормы. Чтобы соблюдать ограничения скорости, предусмотренные правилами дорожного движения, можно либо установить штрафы и поставить повсюду радары, либо поставить ограничители скорости в каждую машину. Это два совершенно различных способа совместить норму с определенной инстанцией: текст-санкция или интегрированный технический контроль.