Грегуар Шамаю - Теория дрона

Или определить право и накладывать санкции апостериори, или же «инкорпорировать этические и правовые нормы непосредственно при разработке оружия» 510. Но дальше этого аналогия не идет, так как в случае с роботом-убийцей, без какого бы то ни было водителя на борту, больше не будет никого, кто будет прямо за него ответственен, то есть того, кого можно было бы обвинить в случае происшествия.

Это прекрасно известно сторонникам «warbots», или боевых роботов. Но они уже сделали свой выбор между международным уголовным судом и этичными роботами-убийцами.

Потому что (внимание!), добавляют они, только высочайшая «преданность идее индивидуальной уголовной ответственности в качестве предохранительного механизма может остановить разработку устройств, которые могли бы, в случае успеха, существенно снизить потери гражданского населения» 511.

Если сам закон обещает стать машиной, человеческое правосудие может исчезнуть.

Но к этому стоит добавить следующее: их утверждение о том, что возможно интегрировать закон в «сам принцип разработки оружия», – это чудовищное злоупотребление языком. Все, что могут сделать специалисты по робоэтике, это внедрить некоторые правила при разработке определенных программ , которые, разумеется, всегда могут быть деинсталлированы или изменены. Если вы легко можете проделать это со своим компьютером, то уж поверьте, на это способна любая армия в мире. Дискурсивная операция на самом деле заключается в том, чтобы оправдать разработку крайне опасного hardware [48]с перспективой благодетельного software [49], которое идет с ним в комплекте. Поздравляем: купив машину (или, точнее, робот-танк), вы выиграли замечательный брелок.

Это типичный механизм «Троянского коня»: ради создания в будущем этичных роботов-убийц согласиться на разработку роботов-убийц как таковых. Притом что их сторонникам прекрасно известно, что общественное «мнение» до сих пор отвергает их за явным большинством. Представляя процесс автоматизации чем-то автоматическим, неизбежным и щедро предлагая избежать возможных крайностей, Аркин и те, кто ему поддакивают, скрывают тот факт, что они являются активнейшими действующими лицами этого процесса 512, и всячески его ускоряют, подыскивая ему оправдания, в которых он пока еще нуждается для достижения успеха. Чем шире распространяется миф об этичном роботе, тем меньше становится нравственных ограничений для использования роботов-убийц. Забывая при этом, что самый надежный способ предотвратить преступления, которые киборги совершат завтра, это убить их в зародыше сегодня, пока для этого еще есть время 513.

Лос-Анджелес, 2029 год. Над руинами города в иссиня-черной ночи флуоресцентные вспышки озаряют небо. На землю падает ниц человеческий комбатант, сраженный лазером робота-самолета. Гусеницы призрачного танка переезжают груду человеческих черепов. Это знаменитая сцена из «войны машин, направленной на истребление человечества», которой открывается «Терминатор» Джеймса Кэмерона, один из первых фильмов, в котором мельком появляется дрон, в 1984 году еще как атрибут научной фантастики.

Все утопии и дистопии структурируются при помощи одной и той же фундаментальной и упрощенной схемы: через парный термин человек/машина. Механизм либо представляется в виде сервильного приложения к человеческому суверену, либо, напротив, машина, добившись автономии, больше не подчиняется контролю своих старых хозяев и восстает против них, как в сценарии «Терминатора».

В подобных историях, изначально представляющих дистанционного оператора или пилота как всемогущего актора, предсказано его грядущее поражение. Человек вскоре утратит свое господствующее положение. Дроны станут роботами. Этот переход к полному автоматизму, добавляется при этом, вписан в сценарий диспозитива, необходимого для его развития: «в отдаленной перспективе любой шаг в сторону дистанционного управления означает шаг в сторону роботов», предсказывал Марвин Минский в 1980 году 514. За изначальным субъектоцентризмом следует предсказуемая смерть субъекта, который, как принято считать, потеряет все что имел, а самое главное – контроль. В этом парадоксальность данной модели: будучи радикально антропоцентричной в своем начале, она оказывается затронута постепенным преобразованием, которое заканчивается гарантированным исключением человеческого субъекта.

Но обе эти точки зрения одинаково неверны.

Вальтер Беньямин, анализируя в свое время положение пилота бомбардировщика, предлагал более реалистичный подход к первой ситуации: