Сен Весто - I, ROBOT Inc.

Человек как вид не так уж бестолков, как сейчас принято думать. И, конечно, с самого начала почти разумным машинам просто из здравого смысла меньше всего планировали давать возможность самим решать, когда давить на спусковой крючок, а когда подождать. Это притом, что еще в 2009 году на конференции технических экспертов была признана не очень приятная необходимость полуавтономности таких систем в той или иной форме, включая как поиск и добывание источников энергии, так и самостоятельное определение цели. Военно-морские силы финансировали доклад, где в связи со всё большим возрастанием сложности военных роботов необходимость внимания к их способности принимать самостоятельные решения декларировалась как «абсолютная». Абсолютная необходимость внимания – так они это называли. Любая корпорация вроде «I, Robot Inc.» в своих разработках получала грант на исследования прежде всего – и это всюду проходит красным абзацем – по линии безопасности. Глупые люди там не работают, но кто-то давно сказал, что мы с самого начала где-то ошиблись в выборе куда идти. Ирония ситуации в том, что никто уже не может точно сказать, где проходит та линия безопасности, а где ее уже нет. «…Сегодня робот воспринимается не просто как инструмент для выполнения работы определенного рода, а скорее как неотъемлемая часть подразделения…» Предполагалось, он не должен был восприниматься иначе, чем именно как особо дорогой инструмент для обезвреживания заминированных участков: по запаху определять наличие мин – его просто планировали быть таким. Функция этой неотъемлемой части подразделения была ясна, как день.

«Используя роботов, мы делаем нашу миссию более безопасной».

Я слышал это не один раз. Мы все это слышали. Так оно и было. И дело уже не в том, что кто-то оказался в расчетах оптимистичнее, чем следовало, или пошел в своих желаниях чуть дальше, чем нужно. Все было гораздо сложнее.

Подтаскивать боеприпасы, вытаскивать на себе раненных, определять местоположение чужого снайпера, давать ценные наставления из мыслителей всех народов, рассказывать только свежие анекдоты, выращивать зеленый лук и редиску, готовить и выносить мусор – все это было уже потом, вроде приятного, но не обязательного для солдата дополнения.

Лично для меня жизненной трагедией стало, когда обнаружилась неприятная новость, что этот механический урод из стандартного тренировочного армейского лука стреляет практически так же хорошо, легко и невозмутимо, как я. Что уже граничило даже не с конкуренцией видов – с личным оскорблением. Некоторое облегчение еще приносила мстительная мысль, что разве только реальную лошадь под тот механический зад найти было трудно, и стрельба на полном скаку так и останется нашей чисто человеческой привилегией биологического вида Homo sapiens. Конечно, можно было представить того же механического конкурента верхом на тракторе и как он, гремя и подпрыгивая, во весь опор натягивает тетиву лука, напряженно пытаясь учесть сразу целый список показателей среды, но вряд ли здесь тот горизонт возможностей, о котором спит и мечтает стратегический отдел приемной комиссии ДАРПА.

Потом начались разговоры о мирном сосуществовании разных типов организаций в биоценозе, в том ключе, что вот если мы все-таки решили ввести в этот беспокойный мир еще одного члена экосистемы, то давайте научим его тем же человеческим ценностям – просто научим ценить, что ценно для нас, «быть лучшими гражданами» (цитата дословная), и как всем сразу станет хорошо. Имелась в виду явно только модификация той же общей базовой программы. Кто-то один тогда же сказал единственную стоящую вещь: дайте ему понять человека. При этом нигде так ни разу и не прозвучало разумного обоснования, из чего следует, что то, что ценно для нас, должно иметь ту же ценность для кого-то еще. И однажды тот же член экосистемы не решит, что не слишком ли много беспокойства из-за условностей, которые созданы кем-то другим.

Вот эти разумные, трезвые и в высшей степени гуманистические принципы работали ровно до того момента, пока не стало окончательно ясно, что эту войну нам не выиграть. Никогда. Она просто была нам не по зубам, ни как биологическому виду, ни как случайному недоразумению на витке эволюции. Хуже всего, что мы не могли понять, с чем имеем дело.

Впервые заподозрили, что что-то не так, когда у операторов беспилотников-«дронов», автоматических летающих модулей, управляемых с земли, стал с устрашающим постоянством проявляться посттравматический синдром. Это у них-то, которым, как предполагалось, просто вменялось в обязанность воспринимать работу как некую разновидность видеоигр и на всё должно было бы по идее наплевать. Очень скоро обнаружилось, что им еще как было не наплевать, настолько, что после работы они начинали окапываться в огороде у себя дома, пугая соседей.